با تمام موفقیت‌ها، یادگیری عمیق با چالش‌های قابل‌توجهی روبه‌روست:

نیاز به داده‌های عظیم و باکیفیت: مدل‌های بزرگ برای رسیدن به دقت بالا به میلیون‌ها نمونه داده نیاز دارند.

هزینه‌ی محاسباتی و انرژی (مصرف بالای انرژی در آموزش مدل‌های بزرگ): آموزش مدل‌های عظیم مصرف انرژی قابل‌توجهی دارد و تأثیرات زیست‌محیطی مطرح است.

مسئله‌ی شفافیت و قابل‌توضیح بودن تصمیم‌ها: بسیاری از مدل‌ها مانند «جعبه سیاه» عمل می‌کنند و تصمیمات آن‌ها به‌سختی قابل تبیین است.

خطرات اخلاقی و سوگیری در داده‌ها (Bias  ) : اگر داده‌ها دارای سوگیری باشند، مدل نیز آن را بازتولید خواهد کرد که می‌تواند پیامدهای اجتماعی و اخلاقی جدی به‌همراه داشته باشد.

پژوهش‌های جدید در زمینه‌ی هوش مصنوعی توضیح‌پذیر ( Explainable AI) و  اخلاق در هوش مصنوعی (AI Ethics) در تلاش‌اند تا این چالش‌ها را کاهش دهند.