DOI: https://doi.org/10.1038/s41598-026-37278-4
PMID: https://pubmed.ncbi.nlm.nih.gov/41620513
تاريخ النشر: 2026-01-31
المؤلف: Zhiqing Chen وآخرون
الموضوع الرئيسي: الذكاء الاصطناعي القابل للتفسير (XAI)
نظرة عامة
تقدم ورقة البحث نهجًا جديدًا لرسم خرائط تنشيط الفئة (CAM) من خلال تطوير طريقة رسم خرائط تنشيط الفئة بتدرج ثانٍ سلس (SSG-CAM). تواجه تقنيات CAM التقليدية المعتمدة على التدرجات من الدرجة الأولى تحديات مثل حساسية الضوضاء وتشبع التدرج، مما يعيق التحديد الدقيق ودمج خرائط الميزات بشكل فعال. لمعالجة هذه القيود، تتضمن SSG-CAM تدرجات من الدرجة الثانية لالتقاط التغيرات في أهمية الميزات بشكل أفضل وتستخدم تقنية التنعيم للتخفيف من الضوضاء. علاوة على ذلك، يتم تعزيز الطريقة من خلال دمجها مع خوارزمية التطور التفاضلي (DE)، مما يؤدي إلى إطار عمل DE-SSG-CAM الذي يختار ويمزج خرائط الميزات متعددة المستويات تلقائيًا.
تؤكد التجارب الواسعة على فعالية SSG-CAM، مما يظهر أداءً متفوقًا مقارنة بالطرق الحالية، مع نتائج ملحوظة تشمل دقة تحديد الموقع Top-1 بنسبة 48.19% على مجموعة بيانات ILSVRC ودقة متوسط تقاطع على اتحاد (mIoU) بنسبة 39.72% على مجموعة بيانات PASCAL VOC2012. يتميز إطار عمل DE-SSG-CAM بشكل خاص في التطبيقات الطبية الحيوية، حيث يحقق mIoU بنسبة 62.38% في تحديد مواقع آفات الطفيليات الملاريا في خلايا الدم الحمراء. تؤكد النتائج على أهمية استراتيجيات دمج الميزات المدفوعة بالخوارزميات، والتي تعزز الأداء بشكل كبير مقارنة بأساليب الدمج التقليدية ذات الطبقة الواحدة والبدائية، مما يوفر أداة قوية للتفسير البصري في نماذج التعلم العميق.
مقدمة
في مقدمة ورقة البحث، يبرز المؤلفون الدور المحوري للشبكات العصبية الالتفافية (CNNs) في تقدم مجالات متعددة، لا سيما في معالجة الصور ورؤية الكمبيوتر. لقد أظهرت CNNs أداءً ملحوظًا في مهام مثل تصنيف الصور، واكتشاف الكائنات، والتجزئة، ويرجع ذلك إلى حد كبير إلى قدرتها على تعلم تمثيلات الميزات الهرمية تلقائيًا من البيانات. يؤكد المؤلفون على أن بنية CNNs، المميزة بطبقات الالتفاف، وطبقات التجميع، وطبقات الاتصال الكامل، تمكنها من التقاط الهياكل المكانية بشكل فعال.
علاوة على ذلك، توضح المقدمة التحديات التي تواجهها CNNs، بما في ذلك القضايا المتعلقة بالتكيف الزائد، وكفاءة الحوسبة، والحاجة إلى مجموعات بيانات موسومة كبيرة. يقترح المؤلفون أن معالجة هذه التحديات أمر حاسم لتعزيز قابلية تطبيق CNNs في السيناريوهات الواقعية. ويقترحون أن البحث المستمر في الهياكل الجديدة، وتقنيات التنظيم، واستراتيجيات زيادة البيانات يمكن أن يحسن بشكل كبير من متانة وقدرات تعميم CNNs.
طرق
تُفصَّل المنهجية الخاصة بـ SSG-CAM، وهي نسخة محسّنة من رسم خرائط تنشيط الفئة (CAM)، في هذا القسم. يتضمن التصميم التجريبي نهجًا منهجيًا لتقييم أداء SSG-CAM في توليد تفسيرات بصرية أكثر دقة وقابلية للتفسير لنماذج التعلم العميق. تشمل المكونات الرئيسية للتصميم اختيار مجموعات بيانات مرجعية، وبنية الشبكات العصبية المستخدمة، والمعايير المحددة المستخدمة لتقييم فعالية الطريقة المقترحة.
تم هيكلة التجارب لمقارنة SSG-CAM ضد CAM التقليدي وتقنيات أخرى متطورة، مع التركيز على مقاييس مثل دقة التحديد وكفاءة الحوسبة. من خلال استخدام تحليل إحصائي صارم، تهدف الدراسة إلى إثبات تفوق SSG-CAM في تقديم رؤى أوضح حول توقعات النموذج، مما يعزز قابلية تفسير تطبيقات التعلم العميق في مجالات متعددة.
مناقشة
تسلط قسم المناقشة في الورقة الضوء على التحديات والتقدم في مجال رسم خرائط تنشيط الفئة (CAM) لتعزيز قابلية تفسير الشبكات العصبية الالتفافية (CNNs). بينما حسنت CNNs بشكل كبير من تصنيف الصور، واكتشاف الكائنات، والتجزئة الدلالية، فإن هياكلها المعقدة تسهم في ظاهرة “الصندوق الأسود”، مما يجعل من الصعب تفسير آلياتها الداخلية. تشكل هذه الغموض تحديات في التطبيقات الحرجة مثل التشخيص الطبي، مما يستلزم تطوير الذكاء الاصطناعي القابل للتفسير (XAI). تحدد الورقة القيود الرئيسية في تقنيات CAM الحالية، لا سيما فيما يتعلق بموثوقية حساب الوزن وفعالية دمج الميزات، مما قد يؤدي إلى تفسيرات بصرية غير دقيقة.
لمعالجة هذه القضايا، يقترح المؤلفون إطار عمل جديد يسمى رسم خرائط تنشيط الفئة بتدرج ثانٍ سلس (SSG-CAM)، الذي يستخدم تدرجات من الدرجة الثانية لتعزيز موثوقية حساب الوزن ويشمل استراتيجية تحسين مشترك لدمج الميزات التكيفية. تظهر الطريقة المقترحة أداءً متفوقًا في مهام تحديد المواقع الضعيفة الإشراف والتجزئة الدلالية، حيث تحقق متوسط تقاطع على اتحاد (mIoU) بنسبة 62.38% لتحديد مواقع خلايا الدم الحمراء الملاريا. تشير النتائج إلى أن SSG-CAM لا يحسن فقط من وضوح ودقة دلالية CAMs ولكن أيضًا يقوم بتصفية الضوضاء بشكل فعال ويعزز دقة التحديد، مما يوفر تفسيرات بصرية أكثر موثوقية في تطبيقات التعلم العميق.
DOI: https://doi.org/10.1038/s41598-026-37278-4
PMID: https://pubmed.ncbi.nlm.nih.gov/41620513
Publication Date: 2026-01-31
Author(s): Zhiqing Chen et al.
Primary Topic: Explainable Artificial Intelligence (XAI)
Overview
The research paper introduces a novel approach to Class Activation Mapping (CAM) through the development of the Smooth Second-Order Gradient Class Activation Mapping (SSG-CAM) method. Traditional first-order gradient-based CAM techniques face challenges such as noise sensitivity and gradient saturation, which hinder accurate localization and effective feature map integration. To address these limitations, SSG-CAM incorporates second-order gradients to better capture changes in feature importance and employs a smoothing technique to mitigate noise. Furthermore, the method is enhanced by integrating it with a Differential Evolution (DE) algorithm, resulting in the DE-SSG-CAM framework that optimally selects and fuses multi-level feature maps automatically.
Extensive experiments validate the efficacy of SSG-CAM, demonstrating superior performance compared to existing methods, with notable results including a 48.19% Top-1 Localization accuracy on the ILSVRC dataset and a 39.72% mean Intersection over Union (mIoU) on the PASCAL VOC2012 dataset. The DE-SSG-CAM framework particularly excels in biomedical applications, achieving a mIoU of 62.38% in localizing malarial parasite lesions in red blood cells. The findings emphasize the importance of algorithm-driven feature fusion strategies, which significantly enhance performance over traditional single-layer and naive fusion methods, thereby providing a robust tool for visual explanation in deep learning models.
Introduction
In the introduction of the research paper, the authors highlight the pivotal role of Convolutional Neural Networks (CNNs) in advancing various fields, particularly in image processing and computer vision. CNNs have demonstrated remarkable performance in tasks such as image classification, object detection, and segmentation, largely due to their ability to automatically learn hierarchical feature representations from data. The authors emphasize that the architecture of CNNs, characterized by convolutional layers, pooling layers, and fully connected layers, enables them to capture spatial hierarchies effectively.
Furthermore, the introduction outlines the challenges faced by CNNs, including issues related to overfitting, computational efficiency, and the need for large labeled datasets. The authors propose that addressing these challenges is crucial for enhancing the applicability of CNNs in real-world scenarios. They suggest that ongoing research into novel architectures, regularization techniques, and data augmentation strategies could significantly improve the robustness and generalization capabilities of CNNs.
Methods
The methodology for SSG-CAM, an enhanced version of Class Activation Mapping (CAM), is outlined in this section. The experimental design involves a systematic approach to evaluate the performance of SSG-CAM in generating more accurate and interpretable visual explanations for deep learning models. Key components of the design include the selection of benchmark datasets, the architecture of the neural networks utilized, and the specific metrics employed to assess the effectiveness of the proposed method.
The experiments are structured to compare SSG-CAM against traditional CAM and other state-of-the-art techniques, focusing on metrics such as localization accuracy and computational efficiency. By employing rigorous statistical analysis, the study aims to demonstrate the superiority of SSG-CAM in providing clearer insights into model predictions, thereby enhancing the interpretability of deep learning applications in various domains.
Discussion
The discussion section of the paper highlights the challenges and advancements in the field of Class Activation Mapping (CAM) for enhancing the interpretability of Convolutional Neural Networks (CNNs). While CNNs have significantly improved image classification, object detection, and semantic segmentation, their complex architectures contribute to a “black-box” phenomenon, making it difficult to interpret their internal workings. This opacity poses challenges in critical applications such as medical diagnostics, necessitating the development of explainable artificial intelligence (XAI). The paper identifies key limitations in existing CAM techniques, particularly regarding the reliability of weight computation and the effectiveness of feature fusion, which can lead to inaccurate visual explanations.
To address these issues, the authors propose a novel framework called Smooth Second-Order Gradient Class Activation Mapping (SSG-CAM), which utilizes second-order gradients to enhance the robustness of weight computation and incorporates a co-optimization strategy for adaptive feature fusion. The proposed method demonstrates superior performance in weakly-supervised object localization and semantic segmentation tasks, achieving a mean Intersection over Union (mIoU) of 62.38% for malaria red blood cell localization. The results indicate that SSG-CAM not only improves the clarity and semantic precision of CAMs but also effectively filters noise and enhances localization accuracy, thereby providing more reliable visual explanations in deep learning applications.