DOI: https://doi.org/10.1038/s41598-026-37070-4
PMID: https://pubmed.ncbi.nlm.nih.gov/41807482
تاريخ النشر: 2026-03-10
المؤلف: Alisa Raikovskaia وآخرون
الموضوع الرئيسي: الذكاء الاصطناعي القابل للتفسير (XAI)
نظرة عامة
تسلط هذه القسم من ورقة البحث الضوء على أهمية الفهم والتفسير البشري في نماذج التصنيف، لا سيما في التطبيقات مثل أنظمة دعم القرار حيث تكون التفسيرات ضرورية لتحفيز الإجراءات. تركز الدراسة على التحديات التي تطرحها ضوضاء تسميات الفئات، والتي تتواجد بشكل شائع في البيانات الواقعية، وتأثيراتها على قابلية تفسير نماذج تعلم القواعد التي تهدف إلى تقديم رؤى شفافة وقابلة للفهم حول أنماط البيانات وعمليات اتخاذ القرار.
يقدم المؤلفون نتائج تجريبية تشير إلى أنه بينما قد تظل الأداء العام لهذه النماذج مستقراً على الرغم من زيادة مستويات ضوضاء التسميات، فإن اتساق القواعد القابلة للتفسير للنموذج يتدهور بشكل كبير. يؤدي ذلك إلى تحديد ظاهرة تُسمى “انحراف التفسير”، حيث تتغير التفسيرات التي ينتجها النموذج بشكل كبير في وجود ضوضاء التسميات، حتى عندما لا تتأثر الدقة التنبؤية. يشكل هذا الانحراف مخاطر كبيرة على القرارات المستندة إلى الذكاء الاصطناعي، حيث لا يتم التقاطه بواسطة مقاييس الأداء التقليدية. وبالتالي، تدعو الدراسة إلى إنشاء مقاييس موحدة تأخذ في الاعتبار متانة القابلية للتفسير لتعزيز موثوقية أنظمة الذكاء الاصطناعي القابلة للتفسير.
الطرق
في هذا القسم، يحدد المؤلفون المنهجية المستخدمة لتقييم متانة نماذج تعلم القواعد القابلة للتفسير ضد ضوضاء التسميات. شملت التقييم استخدام بيانات تجريبية مصممة خصيصًا لمحاكاة مستويات مختلفة من ضوضاء التسميات، مما يسمح بتحليل شامل لأداء النموذج تحت هذه الظروف.
يستعرض المؤلفون النماذج المحددة المستخدمة في الدراسة، على الرغم من عدم تحديد الأنواع الدقيقة في النص المقدم. بالإضافة إلى ذلك، يقدمون المقاييس التي تم تطويرها لقياس فعالية النماذج، والتي من المحتمل أن تشمل مقاييس الدقة، والقابلية للتفسير، والمرونة تجاه الضوضاء. يهدف هذا النهج المنظم إلى تقديم رؤى حول مدى قدرة هذه النماذج على الحفاظ على أدائها عند مواجهة تسميات غير دقيقة.
النتائج
في هذا القسم، نحقق في تأثيرات خيارات التصميم ومعدلات ضوضاء التسميات على الأداء التنبؤي (PLNR) وقابلية التفسير (ILNR) لخوارزميات تعلم القواعد. تؤكد النتائج أن التركيز ليس على تقييم خوارزميات مختلفة ولكن على فهم كيفية تفاعل منهجيات تعلم القواعد المختلفة مع ضوضاء التسميات من حيث الاستقرار التنبؤي ومرونة القابلية للتفسير.
تشير نتائجنا إلى وجود تباين ملحوظ بين الاستقرار التنبؤي واتساق التفسير، والذي يتأثر بعوامل مثل مستوى ضوضاء التسميات، والاستراتيجية الخوارزمية المحددة المستخدمة، وتعقيد النموذج. يبرز هذا التوازن المعقد الذي يجب الحفاظ عليه في خوارزميات تعلم القواعد لتحقيق الأداء الأمثل في كل من التنبؤ وقابلية التفسير وسط ضوضاء التسميات.
المناقشة
تركز قسم المناقشة من ورقة البحث على متانة التفسيرات في نماذج الذكاء الاصطناعي القابلة للتفسير المعتمدة على القواعد عند تعرضها لمستويات مختلفة من ضوضاء التسميات. تقيم الدراسة مجموعات بيانات متعددة من مجالات متنوعة – الرعاية الصحية، والمالية، ونظرية الأعداد – باستخدام ثلاث خوارزميات لتعلم القواعد: تقليم الخطأ المنخفض المتزايد (IREP)، وتقليص متكرر لإنتاج تقليل الخطأ (RIPPER)، ونماذج المعرفة البشرية (HKM). تكشف النتائج الرئيسية أنه بينما قد يظل أداء النموذج مستقراً تحت زيادة ضوضاء التسميات، فإن القابلية للتفسير تتدهور بشكل كبير، مع ملاحظة انخفاض ملحوظ في متانة القابلية للتفسير (ILNR) يظهر في وقت مبكر يصل إلى 20-30% من الضوضاء. يبرز هذا التباين ظاهرة “انحراف التفسير”، حيث تحافظ النماذج على الدقة التنبؤية بينما تتغير منطقها الأساسي، مما قد يؤدي إلى استنتاجات مضللة.
تؤكد الدراسة أيضًا أن النماذج الأكثر تعقيدًا أكثر عرضة لانحراف التفسير، حيث تؤدي زيادة أحجام الاقتران إلى زيادة القابلية للتأثر بالتغيرات الناتجة عن الضوضاء. تظهر كل من المتعلمين الجشعين والشاملين هذه المشكلة النظامية، مما يشير إلى أن المشكلة تتجاوز استراتيجيات التحسين المحددة. تتحدى النتائج التركيز السائد على مقاييس الأداء في الذكاء الاصطناعي، مما يبرز الحاجة إلى تقييم أكثر شمولاً لتفسيرات النموذج لضمان الاتساق والموثوقية في القابلية للتفسير. تفتح هذه البحث آفاقًا لمزيد من الاستكشاف حول انحراف التفسير عبر تطبيقات الذكاء الاصطناعي المختلفة، ومجموعات البيانات، وتقنيات النمذجة، مما يثير في النهاية تساؤلات حول موثوقية أطر الذكاء الاصطناعي القابلة للتفسير الحالية.
DOI: https://doi.org/10.1038/s41598-026-37070-4
PMID: https://pubmed.ncbi.nlm.nih.gov/41807482
Publication Date: 2026-03-10
Author(s): Alisa Raikovskaia et al.
Primary Topic: Explainable Artificial Intelligence (XAI)
Overview
This section of the research paper highlights the importance of comprehensibility and human interpretation in classification models, particularly in applications like decision support systems where explanations are essential for driving actions. The study focuses on the challenges posed by class label noise, which is prevalent in real-world data, and its effects on the interpretability of rule-learning models that are designed to provide transparent and understandable insights into data patterns and decision-making processes.
The authors present empirical findings indicating that while the overall performance of these models may remain stable despite increasing levels of label noise, the consistency of the model’s explainable rules deteriorates significantly. This leads to the identification of a phenomenon termed “interpretation drift,” where the explanations generated by the model change considerably in the presence of label noise, even when predictive accuracy is unaffected. This drift poses substantial risks for AI-informed decisions, as it is not captured by traditional performance metrics. Consequently, the study calls for the establishment of standardized metrics that account for interpretability robustness to enhance the reliability of explainable AI systems.
Methods
In this section, the authors outline the methodology employed to assess the robustness of interpretable rule-learning models against label noise. The evaluation involved the use of experimental data specifically designed to simulate varying levels of label noise, allowing for a comprehensive analysis of model performance under these conditions.
The authors detail the specific models utilized in the study, although the exact types are not specified in the provided text. Additionally, they introduce the metrics developed to quantify the effectiveness of the models, which likely include measures of accuracy, interpretability, and resilience to noise. This structured approach aims to provide insights into how well these models can maintain their performance when faced with imperfect labeling.
Results
In this section, we investigate the effects of design choices and label noise rates on the predictive performance (PLNR) and interpretability (ILNR) of rule-learning algorithms. The results emphasize that the focus is not on benchmarking different algorithms but rather on understanding how various rule-learning methodologies react to label noise in terms of both predictive stability and interpretability robustness.
Our findings indicate a notable divergence between predictive stability and explanation consistency, which is influenced by factors such as the level of label noise, the specific algorithmic strategy employed, and the complexity of the model. This highlights the intricate balance that must be maintained in rule-learning algorithms to achieve optimal performance in both prediction and interpretability amidst label noise.
Discussion
The discussion section of the research paper focuses on the robustness of interpretations in rule-based explainable AI models when subjected to varying levels of label noise. The study evaluates multiple datasets from diverse fields—healthcare, finance, and number theory—using three rule-learning algorithms: Incremental Reduced Error Pruning (IREP), Repeated Incremental Pruning to Produce Error Reduction (RIPPER), and Human Knowledge Models (HKM). Key findings reveal that while model performance may remain stable under increasing label noise, interpretability significantly degrades, with a notable drop in interpretability robustness (ILNR) observed as early as 20-30% noise. This discrepancy highlights the phenomenon of “interpretation drift,” where models maintain predictive accuracy while their underlying logic shifts, potentially leading to misleading conclusions.
The study further emphasizes that more complex models are more susceptible to interpretation drift, as increased conjunction sizes result in greater vulnerability to noise-induced changes. Both greedy and exhaustive rule learners exhibit this systemic issue, indicating that the problem transcends specific optimization strategies. The findings challenge the prevailing focus on performance metrics in AI, underscoring the need for a more comprehensive evaluation of model explanations to ensure consistency and reliability in interpretability. This research opens avenues for further exploration of interpretation drift across various AI applications, datasets, and modeling techniques, ultimately questioning the trustworthiness of current explainable AI frameworks.
