DOI: https://doi.org/10.1016/j.inffus.2026.104406
تاريخ النشر: 2026-04-25
المؤلف: Sidney Bender وآخرون
الموضوع الرئيسي: تعلم الآلة وتصنيف البيانات
نظرة عامة
في هذا القسم، يتناول المؤلفون نقاط الضعف في نماذج التعلم العميق تجاه الارتباطات الزائفة، والتي يمكن أن تؤدي إلى توقعات غير موثوقة، خاصة في النماذج الكبيرة والأساسية والنماذج ذاتية الإشراف. ينتقدون طرق القوة التوزيعية الجماعية الحالية، مثل إعادة وزن الميزات العميقة (DFR)، التي تعتمد على تسميات جماعية صريحة غالبًا ما تكون غير متاحة أو غير كافية لتمثيل الفئات الفرعية بشكل فعال. للتغلب على هذه القيود، يقترح المؤلفون إطار عمل جديد يسمى تقطير المعرفة المضاد (CFKD). هذه الطريقة تولد أمثلة مضادة متنوعة، مما يسمح للم annotators البشريين بتنقيح حدود قرار النموذج من خلال عملية تقطير المعرفة. لا يعيد CFKD وزن المجموعات الممثلة بشكل ناقص فحسب، بل يغنيها أيضًا بنقاط بيانات جديدة، محققًا تعميمًا متوازنًا عبر المجموعات دون الحاجة إلى تسميات مختلطة.
يظهر المؤلفون فعالية CFKD عبر خمسة مجموعات بيانات، بما في ذلك المهام الاصطناعية والتطبيقات الصناعية، مع تحسينات ملحوظة في السيناريوهات التي تتميز بانخفاض توفر البيانات ووجود ارتباطات زائفة كبيرة. يبرزون مرونة CFKD، التي يمكن أن تدمج نماذج معلم مختلفة وتقنيات توليد مضادة، ويقترحون إمكانية تمديدها إلى ما هو أبعد من تصنيف الصور إلى أنواع بيانات أخرى. يؤكد البحث على أن CFKD يعزز من قابلية تفسير وموثوقية نماذج التعلم العميق، مشيرًا إلى أن مثل هذه الأساليب قد تكون ضرورية بشكل متزايد لمعالجة التحديات التي تطرحها الارتباطات الزائفة في البيانات عالية الأبعاد.
مقدمة
تسلط مقدمة ورقة البحث الضوء على التقدم الكبير في التعلم العميق، خاصة في مجالات مثل رؤية الكمبيوتر ومعالجة اللغة الطبيعية. على الرغم من هذه التقدمات، تعتمد النماذج غالبًا على ميزات زائفة، أو مختلطة، مما يؤدي إلى ظهور متنبئين مثل Clever Hans (CH) الذين يؤدون بشكل جيد على بيانات التدريب ولكنهم يفشلون في التطبيقات الواقعية. هذه القضية حاسمة في المجالات الحساسة للسلامة مثل التصوير الطبي والقيادة الذاتية، حيث تعتبر موثوقية أنظمة الذكاء الاصطناعي أمرًا بالغ الأهمية. وقد وضعت منظمة التعاون والتنمية الاقتصادية مبادئ الذكاء الاصطناعي التي تؤكد على الشفافية والمساءلة، مما يبرز الحاجة إلى التحقق القوي من عمليات اتخاذ القرار في الذكاء الاصطناعي.
تحدد الورقة أن النماذج الأساسية الكبيرة الحجم معرضة حتى لتعلم ميزات غير سببية، مما يؤدي إلى أداء ضعيف تحت تحولات التوزيع. تشمل الاستراتيجيات الحالية للتخفيف من الارتباطات الزائفة زيادة البيانات، وإعادة وزن المجموعات، وتقنيات الذكاء الاصطناعي القابل للتفسير (XAI)؛ ومع ذلك، فإن هذه الطرق لها قيود. يقترح المؤلفون نهجًا جديدًا يسمى تقطير المعرفة المضاد (CFKD)، الذي يستفيد من الأمثلة المضادة لتحديد وتخفيف آثار CH دون الحاجة إلى معرفة مسبقة بمختلطة معينة. تم تصميم CFKD ليكون قابلًا للتكرار وقابلًا للتطبيق وفقًا لإرشادات الممارسات المخبرية الجيدة (GLP)، مما يسهل تطوير أنظمة ذكاء اصطناعي أكثر قوة. تقدم الورقة فعالية CFKD عبر مجموعات بيانات متنوعة وإمكانية تفوقها على الطرق الحالية، بينما تقدم أيضًا مجموعة بيانات جديدة للتاريخ المرضي لأغراض القياس.
طرق
في هذا القسم، يقدم المؤلفون مساهمتهم الرئيسية، وهي تقطير المعرفة المضاد (CFKD)، التي تهدف إلى تعزيز نموذج الطالب من خلال الاستفادة من الأمثلة المضادة الناتجة عن ملاحظات المعلم. تتضمن المنهجية إنشاء أمثلة مضادة من خلال نماذج توليدية متنوعة، مما يسمح بتنقيح أكثر دقة لنموذج الطالب بناءً على الرؤى المقدمة من المعلم.
بالإضافة إلى ذلك، يناقش المؤلفون المعلمين المحتملين الذين يمكن توظيفهم ضمن إطار CFKD ويقترحون مقياسًا يسمى “دقة الملاحظات”. تم تصميم هذا المقياس لتقدير قدرة التعميم للنموذج المنقح ويعمل كمعيار لاختيار النموذج، مما يضمن اختيار النموذج الأكثر فعالية بناءً على أدائه فيما يتعلق بالملاحظات المستلمة.
نتائج
في هذا القسم، يقدم المؤلفون نتائج أداء تقنيات تحسين النموذج المختلفة، بما في ذلك تقطير المعرفة المضاد (CFKD) المقترح، عبر مجموعات بيانات متعددة. المقياس المستخدم هو متوسط دقة المجموعة (AGA)، والذي يتم حسابه عن طريق تقسيم البيانات إلى أربع مجموعات بناءً على وجود أو عدم وجود مختلطة في فئتين. تشير النتائج إلى أن CFKD يتفوق باستمرار على الطرق الأخرى في معظم مجموعات البيانات، محققًا أعلى AGA باستثناء مجموعة بيانات Camelyon17، حيث يتم تجاوزه بشكل ضيق بواسطة RR-ClArC بسبب ميزة الأخيرة في وجود تسميات جماعية مثالية.
تظهر التحليلات الإضافية أن CFKD يحافظ على أداء قوي حتى مع حجم عينة محدود يبلغ 1000 حالة ويظهر استقرارًا عبر مستويات مختلفة من الارتباط الزائف. على عكس الطرق الأخرى، يتعامل CFKD بفعالية مع السيناريوهات التي تحتوي على ارتباط زائف كامل، حيث قد تكون الفئة الأقل تمثيلًا فارغة، ويظل قويًا حتى في غياب الارتباط الزائف، مما يشير إلى قدرته على تقطير المعرفة حول مختلطة غير معروفة. بالمقابل، تظهر طرق أخرى مثل DFR و RR-ClArC تدهورًا كبيرًا في الأداء تحت ظروف الارتباط العالي وتتطلب ضبطًا مكثفًا للمعلمات لتحقيق تحسينات. بشكل عام، تؤكد النتائج فعالية CFKD وقوتها في مهام تحسين النموذج.
نقاش
في قسم النقاش، يضع المؤلفون أبحاثهم في سياق أربعة مجالات رئيسية: زيادة البيانات، والقدرة على مقاومة الارتباطات الزائفة، وتحسين نموذج الذكاء الاصطناعي القابل للتفسير (XAI)، والأمثلة المضادة لتحسينات على مستوى مجموعة البيانات. يبرزون تقنيات زيادة البيانات المختلفة، مثل MixUp و CutMix، التي تعزز من تعميم النموذج ولكن لا تعالج نقاط ضعف النموذج بشكل محدد. يقارن المؤلفون هذه الطرق بنهجهم الخاص، تقطير المعرفة المضاد (CFKD)، الذي يستخدم الأمثلة المضادة المستندة إلى نقاط ضعف النموذج لتحسين القدرة على مقاومة الميزات المختلطة.
كما يستعرض المؤلفون الطرق الحالية لمعالجة الارتباطات الزائفة، مثل Group-DRO وإعادة وزن الميزات العميقة، مشيرين إلى قيودها، بما في ذلك تحدي الحصول على تسميات جماعية وصعوبة التوسع إلى مختلطة متعددة. بالمقابل، يقدم CFKD طريقة بناءة لتوليد أمثلة مضادة تغني توزيعات المجموعات الأقل تمثيلًا دون معرفة مسبقة بالمختلطة. بالإضافة إلى ذلك، يناقشون دمج أنواع مختلفة من المعلمين – البشر، والأوراكل، ومحللي الأمثلة المضادة – في إطار CFKD، مؤكدين على أهمية الملاحظات في تنقيح أداء النموذج. يختتم القسم بالتأكيد على إمكانية CFKD في تعزيز قابلية تفسير وموثوقية نماذج التعلم العميق عبر تطبيقات متنوعة، خاصة في وجود ارتباطات زائفة.
DOI: https://doi.org/10.1016/j.inffus.2026.104406
Publication Date: 2026-04-25
Author(s): Sidney Bender et al.
Primary Topic: Machine Learning and Data Classification
Overview
In this section, the authors address the vulnerabilities of deep learning models to spurious correlations, which can lead to unreliable predictions, particularly in large-scale foundation and self-supervised models. They critique existing group distributional robustness methods, such as Deep Feature Reweighting (DFR), which depend on explicit group labels that are often unavailable or insufficient for effective subgroup representation. To overcome these limitations, the authors propose a novel framework called Counterfactual Knowledge Distillation (CFKD). This method generates diverse counterfactuals, allowing human annotators to refine the model’s decision boundaries through a knowledge distillation process. CFKD not only reweights undersampled groups but also enriches them with new data points, achieving balanced generalization across groups without requiring confounder labels.
The authors demonstrate the effectiveness of CFKD across five datasets, including both synthetic tasks and industrial applications, with notable improvements in scenarios characterized by low data availability and significant spurious correlations. They highlight the flexibility of CFKD, which can integrate various teacher models and counterfactual generation techniques, and suggest its potential extension beyond image classification to other data modalities. The paper emphasizes that CFKD enhances the interpretability and reliability of deep learning models, positing that such approaches may be increasingly essential for addressing the challenges posed by spurious correlations in high-dimensional data.
Introduction
The introduction of the research paper highlights the significant advancements in deep learning, particularly in fields such as computer vision and natural language processing. Despite these advancements, models often rely on spurious features, or confounders, leading to the emergence of Clever Hans (CH) predictors that perform well on training data but fail in real-world applications. This issue is critical in safety-sensitive domains like medical imaging and autonomous driving, where the reliability of AI systems is paramount. The OECD has established AI principles emphasizing transparency and accountability, underscoring the need for robust verification of AI decision-making processes.
The paper identifies that even large-scale foundation models are susceptible to learning non-causal features, resulting in poor performance under distribution shifts. Existing strategies to mitigate spurious correlations include data augmentation, group reweighting, and Explainable AI (XAI) techniques; however, these methods have limitations. The authors propose a novel approach called Counterfactual Knowledge Distillation (CFKD), which leverages counterfactual examples to identify and mitigate CH effects without requiring prior knowledge of specific confounders. CFKD is designed to be reproducible and applicable under Good Laboratory Practice (GLP) guidelines, facilitating the development of more robust AI systems. The paper presents CFKD’s effectiveness across various datasets and its potential to outperform existing methods, while also providing a new histopathology dataset for benchmarking purposes.
Methods
In this section, the authors introduce their primary contribution, counterfactual knowledge distillation (CFKD), which aims to enhance a student model by utilizing counterfactuals generated from teacher feedback. The methodology involves the creation of counterfactuals through various generative models, allowing for a more nuanced refinement of the student model based on the insights provided by the teacher.
Additionally, the authors discuss the potential teachers that can be employed within the CFKD framework and propose a metric termed ‘feedback accuracy.’ This metric is designed to estimate the generalization capability of the refined model and serves as a criterion for model selection, ensuring that the most effective model is chosen based on its performance in relation to the feedback received.
Results
In this section, the authors present the performance results of various model improvement techniques, including their proposed Counterfactual Knowledge Distillation (CFKD), across multiple datasets. The evaluation metric used is the average group accuracy (AGA), which is calculated by partitioning the data into four groups based on the presence or absence of confounders in two classes. The results indicate that CFKD consistently outperforms other methods on most datasets, achieving the highest AGA except for the Camelyon17 dataset, where it is narrowly surpassed by RR-ClArC due to the latter’s advantage of having perfect group labels.
Further analysis reveals that CFKD maintains strong performance even with a limited sample size of 1000 instances and demonstrates stability across varying levels of spurious correlation. Unlike other methods, CFKD effectively handles scenarios with full spurious correlation, where the minority class may be empty, and remains robust even in the absence of spurious correlation, suggesting its capability to distill knowledge about unknown confounders. In contrast, other methods like DFR and RR-ClArC show significant performance degradation under high correlation conditions and require extensive hyperparameter tuning to achieve improvements. Overall, the findings underscore CFKD’s effectiveness and robustness in model improvement tasks.
Discussion
In the discussion section, the authors contextualize their research within four key areas: data augmentation, robustness against spurious correlations, explainable AI (XAI) model improvement, and counterfactuals for dataset-level enhancements. They highlight various data augmentation techniques, such as MixUp and CutMix, which enhance model generalization but do not specifically address model weaknesses. The authors contrast these methods with their own approach, Counterfactual Knowledge Distillation (CFKD), which utilizes counterfactuals informed by the model’s weaknesses to improve robustness against confounding features.
The authors also review existing methods for addressing spurious correlations, such as Group-DRO and Deep Feature Reweighting, noting their limitations, including the challenge of obtaining group labels and the difficulty of scaling to multiple confounders. In contrast, CFKD offers a constructive way to generate counterfactuals that enrich minority group distributions without prior knowledge of confounders. Additionally, they discuss the integration of various teacher types—human, oracle, and counterfactual analyzers—into the CFKD framework, emphasizing the importance of feedback in refining model performance. The section concludes by underscoring the potential of CFKD to enhance the interpretability and reliability of deep learning models across diverse applications, particularly in the presence of spurious correlations.