DOI: https://doi.org/10.1002/cai2.136
PMID: https://pubmed.ncbi.nlm.nih.gov/39430216
تاريخ النشر: 2024-07-03
المؤلف: Amirehsan Ghasemi وآخرون
الموضوع الرئيسي: الذكاء الاصطناعي في اكتشاف السرطان
نظرة عامة
تستكشف هذه المراجعة المنهجية تطبيق الذكاء الاصطناعي القابل للتفسير (XAI) في الكشف عن سرطان الثدي وتوقع المخاطر، مع معالجة التحديات التي تطرحها طبيعة الخوارزميات التقليدية للذكاء الاصطناعي كالصندوق الأسود. أسفرت عملية بحث شاملة عبر قواعد بيانات متعددة عن 30 دراسة تمت مراجعتها من قبل الأقران من يناير 2017 إلى يوليو 2023 التي نفذت طرق XAI في مجموعات بيانات سرطان الثدي. تشير النتائج إلى أن SHapley Additive exPlanations (SHAP) ظهرت كأكثر تقنيات XAI غير المعتمدة على النموذج، فعالة بشكل خاص في تفسير التوقعات من نماذج التعلم الآلي المعتمدة على الأشجار بسبب توافقها وسرعتها.
تسلط المراجعة الضوء على أنه بينما تم استخدام SHAP بشكل متكرر، تم الإشارة أيضًا إلى طرق محددة للنموذج مثل Grad-CAM وCAM. ومع ذلك، لا تزال العديد من طرق التفسير غير مستكشفة بشكل كافٍ في أبحاث سرطان الثدي، مما يشير إلى مجالات للتحقيق في المستقبل. تؤكد الدراسة على ضرورة التقييم السريري للنتائج التي تم إنشاؤها بواسطة XAI لتعزيز الثقة والموثوقية، حيث لم يتم تقييم التطبيقات الحالية من قبل أطباء الأورام. علاوة على ذلك، تحدد التحديات المحتملة في تنفيذ XAI في البيئات السريرية المعقدة، بما في ذلك توفر البيانات، والتمثيل، والتحيزات، والتي يجب معالجتها لتسهيل القبول الأوسع لـ XAI متعدد الوسائط في رعاية السرطان.
مقدمة
تناقش مقدمة الورقة الدور الحاسم للكشف المبكر والعلاج في تحسين معدلات البقاء على قيد الحياة لسرطان الثدي (BC)، الذي لا يزال سببًا شائعًا للإصابة والوفيات في جميع أنحاء العالم. تسلط الضوء على التكامل المتزايد للذكاء الاصطناعي (AI) في التشخيص المدعوم بالحاسوب (CAD) للكشف عن السرطان وتصنيفه، مع التأكيد على مزايا نماذج الذكاء الاصطناعي على الأنظمة التقليدية المعتمدة على القواعد. ومع ذلك، تتناول المقدمة أيضًا التحديات الكبيرة، بما في ذلك التحيزات في أنظمة الذكاء الاصطناعي الناجمة عن مجموعات البيانات ذات الجودة المنخفضة وعيوب الخوارزميات، والتي يمكن أن تؤدي إلى توقعات وقرارات خاطئة. تعتبر المخاوف المتعلقة بالمساءلة والعدالة والشفافية في خوارزميات الذكاء الاصطناعي ذات أهمية خاصة في الرعاية الصحية، حيث يمكن أن تكون للأخطاء الطفيفة عواقب وخيمة.
لمعالجة هذه القضايا، تقدم الورقة مفهوم الذكاء الاصطناعي القابل للتفسير (XAI)، الذي يهدف إلى تعزيز الشفافية وقابلية تفسير أنظمة الذكاء الاصطناعي. يتم وضع XAI كوسيلة لتعزيز الثقة في الذكاء الاصطناعي من خلال تسهيل التفاعلات بين البشر والوكيل التي تستفيد من خبرة الأطباء للتحقق من النتائج التي تم إنشاؤها بواسطة الذكاء الاصطناعي. توضح المقدمة المساهمة الفريدة للورقة في هذا المجال من خلال التركيز بشكل خاص على تطبيق XAI في فحص سرطان الثدي، واكتشاف المخاطر، والتنبؤ، مما يميزها عن المراجعات الحالية التي تغطي تطبيقات الرعاية الصحية الأوسع. تعد الورقة بتقديم نظرة شاملة على طرق XAI، وخلفيتها، وتنفيذها في أبحاث سرطان الثدي، وفي النهاية مناقشة نقاط القوة والقيود، واتجاهات البحث المستقبلية في هذا المجال.
طرق
تستعرض هذه القسم تصنيف طرق الذكاء الاصطناعي القابل للتفسير (XAI)، مع التأكيد على شفافيتها من وجهات نظر مختلفة. يمكن تصنيف طرق XAI بناءً على ثلاثة عوامل حاسمة: النطاق (محلي مقابل عالمي)، المرحلة (داخلي مقابل بعد الحدث)، ونوع التفسير (أهمية الميزات، نماذج الصندوق الأبيض، المعتمدة على الأمثلة، والتفسيرات المرئية). توفر الطرق المحلية رؤى حول قرارات نموذج معينة من خلال تسليط الضوء على الميزات المدخلة المؤثرة، بينما تحلل الطرق العالمية سلوك النموذج بشكل عام لكشف التحيزات وأنماط اتخاذ القرار.
تستخدم الطرق الداخلية نماذج الصندوق الأبيض القابلة للتفسير، بينما تفسر الطرق بعد الحدث التوقعات بعد التدريب، وغالبًا ما تُطبق على نماذج الصندوق الأسود الأكثر تعقيدًا التي عادةً ما تحقق أداءً أفضل. يتم ملاحظة التوازن بين التعقيد والدقة، خاصة في الطرق التي تحول نماذج الصندوق الأسود إلى نماذج صندوق أبيض. يمكن أن تكون الطرق بعد الحدث محددة للنموذج، تستهدف بنى معينة، أو غير محددة للنموذج، تقدم تفسيرات مستقلة عن النموذج المستخدم. تختتم هذه القسم بإدراج طرق XAI المختلفة بعد الحدث، وخاصة تلك التي تركز على أهمية الميزات وتستفيد من معلومات التدرج من بنى التعلم العميق.
مناقشة
في هذا القسم، تركز المناقشة على تطبيق نماذج الذكاء الاصطناعي (AI) المختلفة، خاصة في سياق أبحاث سرطان الثدي (BC). تستخدم نماذج الذكاء الاصطناعي خوارزميات مدفوعة بالبيانات لاتخاذ القرارات، حيث يتم تصنيف التعلم الآلي (ML) إلى نوعين: المراقب (الانحدار والتصنيف) وغير المراقب (التجميع). يعد التعلم العميق (DL)، وهو فرع من التعلم الآلي، آليًا لاستخراج الميزات، مما يجعله فعالًا بشكل خاص لمجموعات البيانات متعددة الأبعاد ومتعددة الوسائط النموذجية في دراسات سرطان الثدي. تسلط المناقشة الضوء على أن نماذج DL تتفوق في تحديد العلاقات غير الخطية المعقدة، مما يسهل التقدم في تصنيف سرطان الثدي والكشف عنه. من الجدير بالذكر أن نماذج التعلم الآلي المجمعة، وخاصة الطرق المعتمدة على الأشجار مثل XGBoost، شائعة في الأدبيات، مع ظهور SHapley Additive exPlanations (SHAP) كأكثر طرق الذكاء الاصطناعي القابل للتفسير (XAI) استخدامًا.
كما يتم تناول التوازن بين الدقة وقابلية التفسير، مع التأكيد على التحدي المتمثل في تحقيق التوازن بين أداء النموذج وقابليته للتفسير. يتم تصنيف أنواع مختلفة من النماذج على أنها صندوق أسود، صندوق أبيض، أو صندوق رمادي، مع تقديم SHAP لتفسيرات محلية وعالمية، مما يجعله مفضلًا على التفسيرات القابلة للتفسير المحلية غير المعتمدة على النموذج (LIME) في العديد من الدراسات. تتفصل القسم أيضًا في منهجية المراجعة المنهجية، التي حددت 30 دراسة تستخدم طرق XAI المختلفة، بما في ذلك SHAP وLIME وClass Activation Maps (CAM) وGradient-weighted Class Activation Mapping (Grad-CAM)، من بين أمور أخرى. تعتبر هذه الطرق أساسية في توضيح مساهمات ميزات معينة في توقعات النموذج، مما يعزز الفهم لتطبيقات الذكاء الاصطناعي في تشخيص وعلاج سرطان الثدي.
القيود
تحتوي المراجعة المنهجية المقدمة في هذه الدراسة على عدة قيود يجب الاعتراف بها. أولاً، قد يؤدي استبعاد المقالات غير الإنجليزية، والدراسات غير المتاحة، والأدبيات الرمادية إلى إغفال معلومات قد تكون مهمة، مما يقدم خطر التحيز في النشر. علاوة على ذلك، على الرغم من استخدام استراتيجية بحث شاملة استندت إلى سلاسل بحث بوليانية مختلفة ومصطلحات MeSH عبر قواعد بيانات متعددة، فإن المصطلحات المتنوعة المرتبطة بطرق الذكاء الاصطناعي القابل للتفسير (XAI) وسرطان الثدي قد تؤدي إلى استبعاد غير مقصود للدراسات ذات الصلة.
بالإضافة إلى ذلك، ركزت المراجعة فقط على طرق XAI المعتمدة، مما قد يتجاهل مخططات XAI الناشئة التي تعتمد على هذه الطرق المعتمدة أو تكون مستقلة عنها، كما هو ملاحظ في بعض الدراسات. للحفاظ على نزاهة وموثوقية النتائج، استبعدت المراجعة عمدًا الدراسات ذات الاقتباسات المنخفضة أو التي لا تحتوي على اقتباسات، مما قد يحد من نطاق الأدبيات المدرجة.
DOI: https://doi.org/10.1002/cai2.136
PMID: https://pubmed.ncbi.nlm.nih.gov/39430216
Publication Date: 2024-07-03
Author(s): Amirehsan Ghasemi et al.
Primary Topic: AI in cancer detection
Overview
This systematic scoping review explores the application of explainable artificial intelligence (XAI) in breast cancer detection and risk prediction, addressing the challenges posed by the black-box nature of traditional AI algorithms. A comprehensive search across multiple databases yielded 30 peer-reviewed studies from January 2017 to July 2023 that implemented XAI methods in breast cancer datasets. The findings indicate that SHapley Additive exPlanations (SHAP) emerged as the predominant model-agnostic XAI technique, particularly effective in explaining predictions from tree-based ensemble machine learning models due to its compatibility and speed.
The review highlights that while SHAP was frequently utilized, other model-specific methods like Grad-CAM and CAM were also noted. However, many explanatory methods remain underexplored in breast cancer research, suggesting avenues for future investigation. The study emphasizes the necessity of clinical evaluation of XAI-generated results to enhance trustworthiness and reliability, as current applications have not been assessed by oncologists. Furthermore, it identifies potential challenges in implementing XAI in complex clinical settings, including data availability, representativeness, and biases, which must be addressed to facilitate the broader acceptance of multimodal XAI in cancer care.
Introduction
The introduction of the paper discusses the critical role of early detection and treatment in improving survival rates for breast cancer (BC), which remains a prevalent cause of morbidity and mortality worldwide. It highlights the increasing integration of artificial intelligence (AI) in computer-aided diagnosis (CAD) for cancer detection and classification, emphasizing the advantages of AI models over traditional rule-based systems. However, the introduction also addresses significant challenges, including biases in AI systems arising from low-quality datasets and algorithmic flaws, which can lead to erroneous predictions and decisions. Concerns regarding accountability, fairness, and transparency of AI algorithms are particularly pertinent in healthcare, where even minor errors can have severe consequences.
To address these issues, the paper introduces the concept of explainable artificial intelligence (XAI), which aims to enhance the transparency and interpretability of AI systems. XAI is positioned as a means to foster trustworthiness in AI by facilitating human-agent interactions that leverage clinician expertise to validate AI-generated results. The introduction outlines the paper’s unique contribution to the field by focusing specifically on the application of XAI in breast cancer screening, risk detection, and prediction, distinguishing it from existing reviews that cover broader healthcare applications. The paper promises a comprehensive overview of XAI methods, their background, and their implementation in breast cancer research, ultimately discussing the strengths, limitations, and future research directions in this area.
Methods
The section outlines the classification of explainable artificial intelligence (XAI) methods, emphasizing their transparency from various perspectives. XAI methods can be categorized based on three critical factors: scope (local vs. global), stage (intrinsic vs. post hoc), and type of explanation (feature importance, white-box models, example-based, and visual explanations). Local methods provide insights into specific model decisions by highlighting influential input features, while global methods analyze overall model behavior to reveal biases and decision-making patterns.
Intrinsic methods utilize interpretable white-box models, whereas post hoc methods explain predictions after training, often applied to more complex black-box models that typically yield better performance. The trade-off between complexity and accuracy is noted, particularly in methods that convert black-box models into white-box models. Post hoc methods can be model-specific, targeting particular architectures, or model-agnostic, providing explanations independent of the model used. The section concludes by listing various post hoc XAI methods, particularly those that focus on feature importance and leverage gradient information from deep learning architectures.
Discussion
In this section, the discussion centers on the application of various artificial intelligence (AI) models, particularly in the context of breast cancer (BC) research. AI models utilize data-driven algorithms to make decisions, with machine learning (ML) categorized into supervised (regression and classification) and unsupervised (clustering) types. Deep learning (DL), a subset of ML, automates feature extraction, making it particularly effective for high-dimensional, multimodal datasets typical in BC studies. The discussion highlights that DL models excel in identifying complex nonlinear relationships, thus facilitating advancements in BC classification and detection. Notably, ensemble ML models, especially tree-based methods like XGBoost, are prevalent in the literature, with SHapley Additive exPlanations (SHAP) emerging as the most frequently employed explainable AI (XAI) method.
The accuracy-explainability trade-off is also addressed, emphasizing the challenge of balancing model performance with interpretability. Different types of models are classified as black-box, white-box, or gray-box, with SHAP providing both local and global explanations, making it preferable over Local Interpretable Model-agnostic Explanations (LIME) in many studies. The section further details the systematic review methodology, which identified 30 studies utilizing various XAI methods, including SHAP, LIME, Class Activation Maps (CAM), and Gradient-weighted Class Activation Mapping (Grad-CAM), among others. These methods are instrumental in elucidating the contributions of specific features to model predictions, thereby enhancing the understanding of AI applications in BC diagnostics and treatment.
Limitations
The systematic scoping review presented in this study has several limitations that should be acknowledged. Firstly, the exclusion of non-English language articles, non-accessible studies, and gray literature may have led to the omission of potentially significant information, thereby introducing a risk of publication bias. Furthermore, despite employing a comprehensive search strategy that utilized various Boolean search strings and MeSH terms across multiple databases, the varied terminology associated with explainable artificial intelligence (XAI) methods and breast cancer could have resulted in the inadvertent exclusion of relevant studies.
Additionally, the review focused solely on established XAI methods, which may overlook emerging XAI schemes that are either based on or independent of these established methods, as noted in some studies. To maintain the integrity and credibility of the findings, the review intentionally excluded studies with low or no citations, which may further limit the breadth of the included literature.