Apadana موسسه آموزش عالی آپادانا Biannual Journal Novel Interdisciplinary Legal Research فصلنامه پیشرفت های مهندسی در حوزه پزشکی و مواد - 2 2 2026 08 11 Investigating the Interpretability of Deep Learning in Medical Diagnosis بررسی قابلیت تفسیر یادگیری عمیق در تشخیص پزشکی 67 73 FA Maryam Firouzi CEO, Behbood Bakhsh Behina Company مریم فیروزی مدیر عامل شرکت بهبود بخش بهینا Nadia Bakhtiari Bahador R&D Manager, Behbood Bakhsh Behina Company نادیا بختیاری بهادر مدیر تحقیق و توسعه شرکت بهبود بخش بهینا 2026 08 11 Deep learning has made significant advancements in the field of medicine, with its accuracy often matching or even surpassing human experts in many tasks. However, the "black box" nature of these models poses a fundamental challenge, as their decision-making processes remain opaque, counterintuitive, and difficult to comprehend. This characteristic undermines the trust, transparency, and clinical acceptance of deep learning models. To address this challenge, extensive research has been conducted on model interpretability. This paper provides a comprehensive review of deep learning interpretability in medical diagnostics, including an examination of common interpretability methods, various applications of this approach in disease diagnosis, performance evaluation metrics, and commonly used datasets. Furthermore, the main challenges of interpretability and future research directions in this field are discussed. This review emphasizes the importance of developing transparent and reliable models to enhance medical decision-making and patient safety, while clarifying future research paths in clinical artificial intelligence. یادگیری عمیق در حوزه پزشکی پیشرفت های چشمگیری داشته و در بسیاری از موارد دقت آن با متخصصان انسانی برابری کرده یا حتی از آن ها فراتر رفته است. بااین حال، ساختار «جعبه سیاه» این مدل ها چالشی اساسی ایجاد می کند، زیرا فرایند تصمیم گیری آن ها مبهم، غیرشهودی و دشوار برای درک است. این ویژگی موجب کاهش اعتماد، شفافیت و پذیرش بالینی مدل های یادگیری عمیق می شود. به منظور رفع این چالش، پژوهش های گسترده ای در زمینه تفسیرپذیری مدل ها صورت گرفته است. در این مقاله، مروری جامع بر تفسیرپذیری یادگیری عمیق در تشخیص های پزشکی ارائه می گردد؛ ازجمله بررسی روش های رایج تفسیرپذیری، کاربردهای گوناگون این رویکرد در تشخیص بیماری، معیارهای ارزیابی عملکرد و مجموعه داده های معمول مورد استفاده. افزون بر این، چالش های اصلی تفسیرپذیری و جهت گیری های آینده پژوهش در این زمینه مورد بحث قرار گرفته اند. این بررسی بر اهمیت توسعه مدل های شفاف و قابل اعتماد برای ارتقای تصمیم گیری پزشکی و افزایش امنیت بیماران تأکید دارد و مسیرهای تحقیقاتی آینده در زمینه هوش مصنوعی بالینی را روشن می سازد. clinical artificial intelligence model interpretability deep learning clinical decision making هوش مصنوعی بالینی تفسیرپذیری مدل ها یادگیری عمیق تصمیم گیری بالینی https://ram.apadana.ac.ir/downloadfilepdf/356730