DOI: https://doi.org/10.32604/cmc.2026.076400
تاريخ النشر: 2026-01-01
المؤلف: Zhenyun Du وآخرون
الموضوع الرئيسي: الذكاء الاصطناعي القابل للتفسير (XAI)
نظرة عامة
يتناول هذا القسم من ورقة البحث دمج نماذج التعلم الآلي (ML) في تشخيص وتوقع مرض الزهايمر (AD)، مع التأكيد على أهمية تقديم تفسيرات موثوقة وقابلة للتفسير للنماذج. بينما تُعتبر SHAP (التفسيرات الإضافية لشابلي) طريقة شائعة لتفسير نماذج التعلم الآلي، ركزت الدراسات السابقة بشكل أساسي على مهام معزولة دون تقييم متانة التفسيرات عبر مراحل المرض المختلفة أو هياكل النماذج. يقترح المؤلفون إطار عمل متعدد المستويات للتفسير يقيم التناسق والاستقرار والاتساق لتفسيرات SHAP من خلال تحليل التناسق داخل النموذج، واستقرار SHAP عبر حدود AD، والاتساق بين المهام المختلفة بين التشخيص والتوقع.
باستخدام نهج AutoML على مجموعة بيانات NACC، قامت الدراسة بتدريب نماذج تشخيصية وتوقعية عبر مراحل تقدم AD القياسية. تشير النتائج إلى أن العلامات المعرفية والوظيفية، مثل الذاكرة والحكم، بارزة في تفسيرات SHAP لكلا المهمتين. أظهر الإطار اتساقًا عاليًا بين SHAP وSHAP (معاملات ارتباط سبيرمان تتراوح من 0.61 إلى 0.94) وتحولات طفيفة في حجم التفسير، مما يؤكد استقرار وتناسق التفسيرات المعتمدة على SHAP. تشير النتائج إلى أن المنهجية المقترحة تعزز قابلية تفسير مخرجات التعلم الآلي، مما يمكّن الأطباء من اتخاذ قرارات أكثر استنارة بناءً على تفسيرات قوية وقابلة للنقل. تشمل اتجاهات البحث المستقبلية توسيع الإطار ليشمل مصادر بيانات متعددة الوسائط وتحليلات طولية لتقييم ديناميات أهمية الميزات بمرور الوقت.
مقدمة
يُعتبر مرض الزهايمر (AD) السبب الرئيسي للخرف، حيث يؤثر على الملايين ويفتقر حاليًا إلى علاجات فعالة لإبطاء تقدمه. إن الكشف المبكر عن AD ومؤشره، ضعف الإدراك الخفيف (MCI)، أمر بالغ الأهمية لإدارة المرضى. أظهرت تقنيات التعلم الآلي (ML) وعدًا في تعزيز دقة تشخيص AD وتوقعه من خلال التمييز بين الضوابط الطبيعية (NC) وMCI ومراحل AD، بالإضافة إلى توقع التقدم. ومع ذلك، فإن تعقيد هذه النماذج من التعلم الآلي وطبيعتها غير الشفافة يحد من اعتمادها السريري، مما يستلزم منصات التعلم الآلي الآلي (AutoML) سهلة الاستخدام التي تدمج خوارزميات التفسير مثل SHapley Additive exPlanations (SHAP) وLocal Interpretable Model-agnostic Explanations (LIME).
على الرغم من فائدة SHAP في تفسير نماذج AD، لا تزال هناك تحديات في تفسيرها، خاصة بالنسبة للأطباء غير الفنيين، وغالبًا ما تركز الدراسات الحالية على تفسيرات محددة للنموذج دون تقييم متانتها عبر سيناريوهات سريرية مختلفة. تقترح هذه الورقة إطار عمل منظم للتفسير يقيس التناسق بين أهمية الميزات وقيم SHAP، واستقرار التفسيرات عبر السيناريوهات التشخيصية، وقابلية النقل بين المهام التشخيصية والتوقعية. من خلال تقديم مقاييس استقرار متعددة المستويات، يهدف الإطار إلى تعزيز فهم آليات المرض وتحديد العلامات القوية، مما يسد الفجوة بين نماذج التعلم الآلي والحاجة إلى تفسيرات شفافة في البيئات السريرية. تستخدم الدراسة مجموعة بيانات المركز الوطني لتنسيق الزهايمر-مجموعة البيانات الموحدة (NACC-UDS) لتقييم استقرار وتناسق التفسيرات التي تم إنشاؤها بواسطة SHAP في مهمتين: تشخيص مراحل ضعف الإدراك وتوقع الحالات المعرفية المستقبلية.
طرق
يحدد قسم “الطرق” تصميم التجربة والمواد المستخدمة في الدراسة. يوضح معايير اختيار المشاركين، والإجراءات المحددة المتبعة خلال جمع البيانات، والتقنيات التحليلية المستخدمة لتقييم النتائج. استخدمت الدراسة مزيجًا من الطرق الكمية والنوعية لضمان فهم شامل للأسئلة البحثية المطروحة.
فيما يتعلق بالمواد، يحدد القسم الأدوات والأجهزة المستخدمة في القياس، بما في ذلك أي برامج لتحليل البيانات. كما يتم وصف الطرق الإحصائية المطبقة، مثل تحليل الانحدار أو ANOVA، لتوفير وضوح حول كيفية تفسير البيانات. بشكل عام، يؤسس هذا القسم للصرامة وقابلية التكرار للبحث من خلال توضيح المنهجيات المستخدمة بوضوح.
نتائج
تسلط نتائج الدراسة الضوء على أداء النماذج المختلفة التي حددها AutoML لكل من المهام التشخيصية والتوقعية المتعلقة بمرض الزهايمر (AD). بالنسبة لمهمة التشخيص، حقق مصنف XGBoost أعلى دقة بلغت 0.986، وAUC بلغ 0.996، وKappa لكوهين بلغ 0.973 في التمييز بين الضوابط الطبيعية (NC) وAD. وبالمثل، حققت مهمة التوقع أفضل النتائج مع مصنف LightGBM، الذي حقق دقة بلغت 0.926، وAUC بلغ 0.976، وKappa بلغ 0.873، مرة أخرى لتصنيف NC مقابل AD. تؤكد النتائج التحديات التي تطرحها عدم توازن الفئات، خاصة مع فئة MCI، التي تمثل أقل في مجموعة البيانات، مما يؤدي إلى انخفاض مقاييس الأداء في المقارنات التي تشمل MCI.
كشفت تحليل أهمية الميزات (FI) وقيم SHAP أن الاختبارات المعرفية، مثل الذاكرة والحكم، كانت من أفضل المؤشرات عبر جميع السيناريوهات، بينما ساهمت العلامات الجينية بشكل أقل أهمية. كان التناسق بين مقاييس FI وSHAP عمومًا مرتفعًا، مما يشير إلى علاقة مستقرة بين توقعات النموذج ومساهمات الميزات. ومع ذلك، لوحظت تقلبات في النماذج التنبؤية، خاصة في الانتقالات المبكرة، مما يشير إلى أن العلامات التنبؤية تتطور مع تقدم المرض. وجدت الدراسة أيضًا أنه بينما تظل المؤشرات الأساسية للتشخيص ذات صلة بالتوقع، تزداد الأهمية النسبية لبعض الميزات، خاصة العوامل الجينية والإدارية، في النماذج التنبؤية، مما يشير إلى أهميتها المتزايدة في تقييمات التقدم على المدى الطويل.
مناقشة
تؤكد قسم المناقشة في الورقة على أهمية الذكاء الاصطناعي القابل للتفسير (XAI) في سياق مرض الزهايمر (AD)، مع تسليط الضوء على نهجين رئيسيين: القابلية التفسيرية الداخلية من خلال الخوارزميات القابلة للتفسير وطرق التفسير بعد الحدث. يمكن تصنيف الأخيرة بشكل أكبر إلى تقنيات محددة للنموذج وتقنيات غير محددة للنموذج. تشمل طرق XAI الرئيسية ذات الصلة بـ AD أهمية الميزات (FI)، وSHAP (التفسيرات الإضافية لشابلي)، وGrad-CAM، وLIME، وLayer-wise Relevance Propagation (LRP). تُعتبر SHAP، على وجه الخصوص، ملحوظة لقدرتها على تقديم مساهمات الميزات العالمية والمحلية، مما يجعلها أداة معتمدة على نطاق واسع لفهم توقعات النموذج في البيئات السريرية. تناقش الورقة أيضًا قيود طرق XAI الحالية، خاصة نقص التوحيد في تقييم التفسيرات والحاجة إلى الاستقرار عبر نماذج وسيناريوهات مختلفة.
يقترح المؤلفون إطار عمل متعدد المستويات لتعزيز تقييم القابلية للتفسير، مع التركيز على ثلاثة أبعاد: التناسق داخل النموذج، والتناسق بين النماذج، والتناسق بين المهام. يهدف هذا الإطار إلى تقييم متانة التفسيرات المستمدة من نماذج ومهام مختلفة بشكل كمي، مما يعالج التناقضات التي تُلاحظ غالبًا في تحليلات نموذج واحد. تستخدم الدراسة مجموعة بيانات المركز الوطني لتنسيق الزهايمر الموحدة (NACC-UDS) لتحليلها، والتي تتضمن بيانات طولية شاملة حول مراحل ضعف الإدراك. تؤكد الورقة على أهمية التقييمات المعرفية والوظيفية، مثل اختبار الحالة العقلية المصغر (MMSE) وتصنيف الخرف السريري (CDR)، في توفير نسبة عالية من SHAP، مع الاعتراف أيضًا بالتحديات التي تطرحها التحيزات المحتملة في مجموعة البيانات. بشكل عام، يسعى الإطار المقترح إلى تحسين قابلية تفسير وموثوقية XAI في التطبيقات السريرية لتشخيص وتوقع مرض الزهايمر.
DOI: https://doi.org/10.32604/cmc.2026.076400
Publication Date: 2026-01-01
Author(s): Zhenyun Du et al.
Primary Topic: Explainable Artificial Intelligence (XAI)
Overview
This research paper section discusses the integration of machine learning (ML) models in diagnosing and prognosing Alzheimer’s disease (AD), emphasizing the importance of providing reliable and interpretable model explanations. While SHAP (SHapley Additive exPlanations) is a popular method for interpreting ML models, previous studies have primarily focused on isolated tasks without assessing the robustness of explanations across different disease stages or model architectures. The authors propose a multilevel explainability framework that evaluates the coherence, stability, and consistency of SHAP explanations by analyzing within-model coherence, SHAP stability across AD boundaries, and cross-task consistency between diagnosis and prognosis.
Using an AutoML approach on the NACC dataset, the study trained diagnostic and prognostic models across standard AD progression stages. The results indicate that cognitive and functional markers, such as MEMORY and JUDGMENT, are prominent in SHAP explanations for both tasks. The framework demonstrated high SHAP-SHAP consistency (Spearman correlation coefficients ranging from 0.61 to 0.94) and minimal shifts in explanatory magnitude, confirming the stability and coherence of SHAP-based explanations. The findings suggest that the proposed methodology enhances the interpretability of ML outputs, enabling clinicians to make more informed decisions based on robust and transferable explanations. Future research directions include extending the framework to multimodal data sources and longitudinal analyses to further assess the dynamics of feature importance over time.
Introduction
Alzheimer’s disease (AD) is the leading cause of dementia, affecting millions and currently lacking effective treatments to slow its progression. Early detection of AD and its precursor, mild cognitive impairment (MCI), is crucial for patient management. Machine learning (ML) techniques have shown promise in enhancing the accuracy of AD diagnosis and prognosis by differentiating between normal controls (NC), MCI, and AD stages, as well as predicting progression. However, the complexity of these ML models and their black-box nature limit their clinical adoption, necessitating user-friendly automated machine learning (AutoML) platforms that integrate explainability algorithms like SHapley Additive exPlanations (SHAP) and Local Interpretable Model-agnostic Explanations (LIME).
Despite the utility of SHAP in interpreting AD models, challenges remain in its interpretation, particularly for non-technical clinicians, and existing studies often focus on model-specific explanations without assessing their robustness across different clinical scenarios. This paper proposes a structured explainability framework that quantifies coherence between feature importance and SHAP values, stability of explanations across diagnostic scenarios, and transferability between diagnostic and prognostic tasks. By introducing multi-level stability metrics, the framework aims to enhance the understanding of disease mechanisms and identify robust markers, thereby bridging the gap between ML models and the need for transparent explanations in clinical settings. The study employs the National Alzheimer’s Coordinating Center-Uniform Data Set (NACC-UDS) to evaluate the stability and coherence of SHAP-generated explanations in two tasks: diagnosing cognitive impairment stages and predicting future cognitive states.
Methods
The “Methods” section outlines the experimental design and materials utilized in the study. It details the selection criteria for participants, the specific procedures followed during data collection, and the analytical techniques employed to evaluate the results. The study utilized a combination of quantitative and qualitative methods to ensure a comprehensive understanding of the research questions posed.
In terms of materials, the section specifies the instruments and tools used for measurement, including any software for data analysis. The statistical methods applied, such as regression analysis or ANOVA, are also described to provide clarity on how the data was interpreted. Overall, this section establishes the rigor and reproducibility of the research by clearly delineating the methodologies employed.
Results
The results of the study highlight the performance of various models identified by AutoML for both diagnostic and prognostic tasks related to Alzheimer’s disease (AD). For the diagnostic task, the XGBoost classifier achieved the highest accuracy of 0.986, AUC of 0.996, and Cohen’s Kappa of 0.973 in distinguishing between normal controls (NC) and AD. Similarly, the prognosis task yielded the best results with the LightGBM classifier, which achieved an accuracy of 0.926, AUC of 0.976, and Kappa of 0.873, again for the NC vs. AD classification. The findings emphasize the challenges posed by class imbalance, particularly with the MCI category, which is less represented in the dataset, leading to lower performance metrics in comparisons involving MCI.
The analysis of feature importance (FI) and SHAP values revealed that cognitive tests, such as MEMORY and JUDGMENT, were the top predictors across all scenarios, while genetic markers contributed less significantly. The coherence between FI and SHAP metrics was generally high, indicating a stable relationship between model predictions and feature contributions. However, variability was observed in prognostic models, particularly in early-stage transitions, suggesting that the predictive markers evolve as the disease progresses. The study also found that while core predictors for diagnosis remain relevant for prognosis, the relative importance of certain features, particularly genetic and administrative factors, increases in prognostic models, indicating their growing significance in long-term progression assessments.
Discussion
The discussion section of the paper emphasizes the significance of Explainable AI (XAI) in the context of Alzheimer’s Disease (AD), highlighting two primary approaches: intrinsic explainability through interpretable algorithms and post-hoc explainability methods. The latter can be further categorized into model-specific and model-agnostic techniques. Key XAI methods relevant to AD include feature importance (FI), SHAP (Shapley Additive Explanations), Grad-CAM, LIME, and Layer-wise Relevance Propagation (LRP). SHAP, in particular, is noted for its ability to provide both global and local feature contributions, making it a widely adopted tool for understanding model predictions in clinical settings. The paper also discusses the limitations of current XAI methods, particularly the lack of standardization in evaluating explanations and the need for stability across different models and scenarios.
The authors propose a multi-level framework to enhance the evaluation of explainability, focusing on three dimensions: within-model coherence, inter-model coherence, and cross-task coherence. This framework aims to quantitatively assess the robustness of explanations derived from different models and tasks, thereby addressing the inconsistencies often observed in single-model analyses. The study utilizes the National Alzheimer’s Coordinating Center Uniform Data Set (NACC-UDS) for its analysis, which includes comprehensive longitudinal data on cognitive impairment stages. The paper underscores the importance of cognitive and functional assessments, such as the Mini-Mental State Examination (MMSE) and Clinical Dementia Rating (CDR), in providing high SHAP attribution, while also acknowledging the challenges posed by potential biases in the dataset. Overall, the proposed framework seeks to improve the interpretability and reliability of XAI in clinical applications for AD diagnosis and prognosis.