یادگیری عمیق در حوزه پزشکی پیشرفت های چشمگیری داشته و در بسیاری از موارد دقت آن با متخصصان انسانی برابری کرده یا حتی از آن ها فراتر رفته است. بااین حال، ساختار «جعبه سیاه» این مدل ها چالشی اساسی ایجاد می کند، زیرا فرایند تصمیم گیری آن ها مبهم، غیرشهودی و دشوار برای درک است. این ویژگی موجب کاهش اعتماد، شفافیت و پذیرش بالینی مدل های یادگیری عمیق می شود. به منظور رفع این چالش، پژوهش های گسترده ای در زمینه تفسیرپذیری مدل ها صورت گرفته است. در این مقاله، مروری جامع بر تفسیرپذیری یادگیری عمیق در تشخیص های پزشکی ارائه می گردد؛ ازجمله بررسی روش های رایج تفسیرپذیری، کاربردهای گوناگون این رویکرد در تشخیص بیماری، معیارهای ارزیابی عملکرد و مجموعه داده های معمول مورد استفاده. افزون بر این، چالش های اصلی تفسیرپذیری و جهت گیری های آینده پژوهش در این زمینه مورد بحث قرار گرفته اند. این بررسی بر اهمیت توسعه مدل های شفاف و قابل اعتماد برای ارتقای تصمیم گیری پزشکی و افزایش امنیت بیماران تأکید دارد و مسیرهای تحقیقاتی آینده در زمینه هوش مصنوعی بالینی را روشن می سازد.

هوش مصنوعی بالینی تفسیرپذیری مدل ها یادگیری عمیق تصمیم گیری بالینی