DOI: https://doi.org/10.3390/s26030911
PMID: https://pubmed.ncbi.nlm.nih.gov/41682427
تاريخ النشر: 2026-01-30
المؤلف: M. Nadeem Ahangar وآخرون
الموضوع الرئيسي: الذكاء الاصطناعي القابل للتفسير (XAI)
نظرة عامة
تستكشف هذه الورقة البحثية تطبيق الذكاء الاصطناعي القابل للتفسير (XAI) في التصنيع، مع معالجة التحديات التي تطرحها الطبيعة الغامضة لنماذج الذكاء الاصطناعي التقليدية. تقترح الدراسة إطارًا موحدًا يستفيد من تقنيات XAI المختلفة – مثل Grad-CAM وIntegrated Gradients وSHAP – عبر ثلاث حالات استخدام في التصنيع: التصنيف القائم على الرؤية لعيوب الصب، وتحديد مواقع عيوب سطح المعدن، واكتشاف الشذوذ الصوتي. تكشف النتائج أن XAI يمكن أن يتماشى بشكل فعال مع سلوك نموذج الذكاء الاصطناعي مع آليات قابلة للتفسير جسديًا، مما يعزز الشفافية والثقة في عمليات اتخاذ القرار الصناعية.
تؤكد الاستنتاجات أن XAI لا يحسن فقط القابلية للتفسير ولكن أيضًا يكمل دقة أنظمة الذكاء الاصطناعي، مما يسهل الامتثال والثقة البشرية ضمن النماذج المتطورة للصناعة 4.0 و5.0. يتم توجيه العمل المستقبلي نحو دمج أطر Human-in-the-Loop (HITL) لتعزيز التعاون بين الذكاء الاصطناعي والخبراء البشريين، مما يضمن أن تدعم أنظمة الذكاء الاصطناعي الأدوار البشرية بدلاً من استبدالها. تدعو الأبحاث إلى الدمج المسؤول لمبادئ XAI عبر الصناعات للتخفيف من التحيزات وتعزيز مستقبل مستدام اجتماعيًا، مع التركيز على تطوير القابلية للتفسير السببية والبديلة، ودمج البيانات متعددة الأنماط، والقابلية للتفسير ضمن التوائم الرقمية. تهدف هذه الرؤية إلى إنشاء أنظمة ذكاء اصطناعي ليست فقط تنبؤية ولكن أيضًا تعاونية، مما يعزز اتخاذ قرارات صناعية مستنيرة وموثوقة.
مقدمة
تسلط مقدمة الورقة الضوء على التأثير التحويلي للذكاء الاصطناعي (AI) وتعلم الآلة (ML) على القطاعات الصناعية، وخاصة التصنيع، من خلال التقدم في اكتشاف العيوب الآلي، والصيانة التنبؤية، وتحسين العمليات. بينما حقق التعلم العميق نجاحًا ملحوظًا في مجالات مثل رؤية الكمبيوتر، تثير تعقيدات هذه النماذج مخاوف بشأن الثقة والشفافية والمساءلة، خاصة في البيئات الحرجة للسلامة. مع اعتماد الصناعات بشكل متزايد على الذكاء الاصطناعي، تصبح الحاجة إلى أنظمة موثوقة تضمن اتخاذ قرارات دقيقة وقابلة للتفسير أمرًا بالغ الأهمية. يمكن أن يؤدي الاعتماد المفرط على مخرجات الذكاء الاصطناعي إلى زيادة الثقة، مما يقلل من التفكير النقدي والإبداع لدى المستخدمين، وقد يعزز التحيزات الموجودة في أنظمة الذكاء الاصطناعي.
لمعالجة هذه التحديات، تؤكد الورقة على أهمية الذكاء الاصطناعي القابل للتفسير (XAI) كوسيلة لتعزيز الشفافية والموثوقية في عمليات التصنيع المدفوعة بالذكاء الاصطناعي. تقترح تقنيات XAI تقديم رؤى قابلة للتفسير حول قرارات النموذج، ربط المخرجات بخصائص العيوب ذات المعنى وآليات الخطأ. تهدف الدراسة إلى التحقيق بشكل منهجي في كيفية دمج XAI في أنماط بيانات التصنيع المتنوعة، بما في ذلك البيانات المرئية والصوتية، لتحسين الفهم التشخيصي والموثوقية التشغيلية. من خلال التركيز على القابلية للتفسير والإشراف البشري، تتماشى الأبحاث مع مبادئ الصناعة 5.0، داعية إلى نهج متوازن حيث يعزز الذكاء الاصطناعي القدرات البشرية مع الحفاظ على المساءلة والاعتبارات الأخلاقية في اتخاذ القرار.
الطرق
تؤسس المنهجية المقترحة إطارًا موحدًا لدمج الذكاء الاصطناعي القابل للتفسير (XAI) في تطبيقات التصنيع، مع التركيز على توضيح سلوك الصندوق الأسود لأنظمة الذكاء الاصطناعي السائدة في البيئات الصناعية. بدلاً من إعطاء الأولوية لتحسين أو مقارنة نماذج تعلم الآلة، تعالج الدراسة اختيار النموذج كأمر ثانوي، مستخدمة النماذج المختارة كصناديق سوداء تمثل صانعي القرار لتسهيل تقييم مركز للقابلية للتفسير. يشمل الإطار سلسلة من الخطوات بما في ذلك جمع البيانات، والمعالجة المسبقة، وتدريب النموذج، وتطبيق تقنيات القابلية للتفسير، والتقييم، مصممة لتناسب أنماط بيانات التصنيع المختلفة.
لتوضيح مرونة وقابلية تطبيق المنهجية، تم إجراء ثلاث دراسات حالة: تصنيف الصور لعيوب الصب، واكتشاف الأجسام لعيوب سطح المعدن، واكتشاف الشذوذ الصوتي في صوت الآلة. تستخدم الدراسة مجموعة من هياكل النماذج وأنماط التعلم، مثل الشبكات العصبية التلافيفية الخاضعة للإشراف (CNNs) للتفتيش المرئي (مثل YOLOv8n)، وكاشفات الأجسام المعتمدة على المناطق لتحديد مواقع العيوب (مثل Faster R-CNN)، ونماذج اكتشاف الشذوذ غير الخاضعة للإشراف (مثل Isolation Forest) للمراقبة الصوتية. تسمح هذه التنوع المتعمد بتقييم منهجي لما إذا كانت طرق XAI يمكن أن تنتج تفسيرات ذات معنى وقابلة للتفسير، بغض النظر عن هيكل النموذج أو صياغة المهمة. من خلال التركيز على القابلية للتفسير كمتغير تجريبي رئيسي وتجنب مقارنة النماذج، تظهر الأبحاث أن تقنيات XAI يمكن تطبيقها بشكل فعال عبر مختلف خطوط أنابيب الذكاء الاصطناعي الصناعية، مما يعزز الشفافية والثقة واتخاذ القرار بمشاركة الإنسان.
النتائج
تقييم قسم النتائج في الدراسة نتائج القابلية للتفسير لعمليات التفتيش القائمة على الرؤية ومراقبة الحالة الصوتية في التصنيع. بالنسبة لخطوط الأنابيب القائمة على الرؤية، التي تشمل تصنيف عيوب الصب باستخدام YOLOv8n واكتشاف عيوب سطح المعدن باستخدام Faster R-CNN، تم استخدام مجموعة متنوعة من طرق التفسير بعد الحدث (Grad-CAM وIntegrated Gradients وSaliency وOcclusion) لتوضيح الأدلة المكانية وراء قرارات النموذج. تشير النتائج إلى أنه بينما تبرز جميع تقنيات القابلية للتفسير المناطق ذات الصلة، فإنها تختلف في الحساسية والتركيز. تنتج الطرق المعتمدة على التدرجات مثل Grad-CAM خرائط حرارة أكثر سلاسة، بينما تكون الأساليب المعتمدة على الأهمية أكثر استجابة للتغيرات المحلية، مما يبرز ضرورة التفسير الدقيق المدعوم بخبرة المجال.
في مهمة تصنيف عيوب الصب، أظهر نموذج YOLOv8n مقاييس أداء موثوقة، حيث كشفت طرق القابلية للتفسير عن انتباه محلي على عيوب مثل الثقوب الهوائية والشقوق، مما يتماشى مع التقييمات الخبراء. أكدت خرائط Integrated Gradients وSaliency أن قرارات النموذج كانت تستند إلى تغييرات سطحية ذات معنى. بالمثل، كانت تنبؤات نموذج Faster R-CNN مدعومة بتفسيرات مكانية متماسكة، حيث أشارت خرائط Grad-CAM إلى انتباه مركز على أنواع العيوب مثل الخدوش والانبعاجات. تؤكد الدراسة أن هذه التفسيرات المرئية لا تحقق فقط صحة عمليات اتخاذ القرار للنماذج ولكن أيضًا تعزز فهم المشغل وثقته في نشر أنظمة الذكاء الاصطناعي ضمن سياقات التصنيع ذات القيمة العالية، بينما تحدد أيضًا التحيزات المحتملة ومجالات تحسين مجموعة البيانات.
المناقشة
تسلط قسم المناقشة في الورقة البحثية الضوء على الأهمية المتزايدة للذكاء الاصطناعي القابل للتفسير (XAI) في التصنيع، خاصة في مجالات مثل الصيانة التنبؤية، واكتشاف العيوب، وتحسين العمليات. تشير المراجعات المنهجية إلى اتجاه نحو النشر العملي لتقنيات XAI، مما يبرز الحاجة إلى قابلية تفسير النماذج لتعزيز فهم قرارات تعلم الآلة في البيئات الحرجة للسلامة. تكشف الأدبيات الحالية عن تركيز على التطبيقات المحددة بالنمط، مع وجود أبحاث محدودة تتناول التعميم عبر الأنماط أو دمج القابلية للتفسير في سير العمل الموحد للإنسان في الحلقة. يهدف الإطار المقترح الذي يركز على القابلية للتفسير عبر الأنماط إلى سد هذه الفجوات، كما هو ملخص في الجدول 2، الذي يقارن الدراسات السابقة عبر قدرات مختلفة.
تستعرض الورقة أيضًا عدة مجموعات بيانات مرجعية تسهل تطوير والتحقق من صحة نماذج الذكاء الاصطناعي في اكتشاف العيوب الصناعية والمراقبة. توفر مجموعة بيانات منتجات الصب، وGC10-DET، ومجموعات بيانات MIMII أسس اختبار موحدة للتفتيش المرئي واكتشاف الشذوذ الصوتي، على التوالي. لا تدعم هذه المجموعات البيانات التقدم الخوارزمي فحسب، بل تتيح أيضًا استكشاف أبعاد موثوقية الذكاء الاصطناعي، مثل القابلية للتفسير والشفافية. من خلال ربط القابلية للتفسير بميزات محددة في هذه المجموعات، تؤكد الأبحاث على الدور الحاسم لـ XAI في تعزيز ثقة المشغل وضمان أن القرارات المدفوعة بالذكاء الاصطناعي شفافة ومتوافقة مع الفهم البشري. يتم وضع دمج XAI عبر أنماط مختلفة كأمر أساسي لتعزيز موثوقية ومسؤولية أنظمة الذكاء الاصطناعي في التصنيع، مما يمهد الطريق لاعتماد أوسع في التطبيقات الحساسة للسلامة.
DOI: https://doi.org/10.3390/s26030911
PMID: https://pubmed.ncbi.nlm.nih.gov/41682427
Publication Date: 2026-01-30
Author(s): M. Nadeem Ahangar et al.
Primary Topic: Explainable Artificial Intelligence (XAI)
Overview
This research paper investigates the application of explainable artificial intelligence (XAI) in manufacturing, addressing the challenges posed by the opaque nature of traditional AI models. The study proposes a unified framework that leverages various XAI techniques—such as Grad-CAM, Integrated Gradients, and SHAP—across three manufacturing use cases: vision-based classification of casting defects, localization of metal surface defects, and acoustic anomaly detection. The findings reveal that XAI can effectively align AI model behavior with physically interpretable mechanisms, thereby enhancing transparency and trust in industrial decision-making processes.
The conclusions emphasize that XAI not only improves interpretability but also complements the accuracy of AI systems, facilitating compliance and human trust within the evolving paradigms of Industry 4.0 and 5.0. Future work is directed towards integrating Human-in-the-Loop (HITL) frameworks to enhance collaboration between AI and human experts, ensuring that AI systems support rather than replace human roles. The research advocates for the responsible integration of XAI principles across industries to mitigate biases and promote a socially sustainable future, with an emphasis on developing causal and counterfactual explainability, multimodal data fusion, and interpretability within digital twins. This vision aims to create AI systems that are not only predictive but also collaborative, fostering informed and trustworthy industrial decisions.
Introduction
The introduction of the paper highlights the transformative impact of artificial intelligence (AI) and machine learning (ML) on industrial sectors, particularly manufacturing, through advancements in automated defect detection, predictive maintenance, and process optimization. While deep learning has achieved remarkable success in areas like computer vision, the complexity of these models raises concerns regarding trust, transparency, and accountability, especially in safety-critical environments. As industries increasingly adopt AI, the need for trustworthy systems that ensure accurate and interpretable decision-making becomes paramount. Excessive reliance on AI outputs can lead to over-trust, diminishing users’ critical thinking and creativity, and potentially reinforcing biases present in AI systems.
To address these challenges, the paper emphasizes the importance of explainable AI (XAI) as a means to enhance transparency and trustworthiness in AI-driven manufacturing processes. XAI techniques are proposed to provide interpretable insights into model decisions, linking outputs to meaningful defect characteristics and fault mechanisms. The study aims to systematically investigate how XAI can be integrated into diverse manufacturing data modalities, including visual and acoustic data, to improve diagnostic understanding and operational reliability. By focusing on interpretability and human oversight, the research aligns with the principles of Industry 5.0, advocating for a balanced approach where AI augments human capabilities while maintaining accountability and ethical considerations in decision-making.
Methods
The proposed methodology establishes a unified framework for integrating explainable artificial intelligence (XAI) into manufacturing applications, focusing on elucidating the black-box behavior of AI systems prevalent in industrial settings. Instead of prioritizing the optimization or comparison of machine learning models, the study treats model selection as secondary, utilizing chosen models as representative black-box decision-makers to facilitate a concentrated evaluation of explainability. The framework encompasses a sequence of steps including data acquisition, preprocessing, model training, application of explainability techniques, and evaluation, tailored to various manufacturing data modalities.
To illustrate the versatility and applicability of the methodology, three case studies are conducted: image classification of casting defects, object detection of metal surface defects, and acoustic anomaly detection in machine sound. The study employs a range of model architectures and learning paradigms, such as supervised convolutional neural networks (CNNs) for visual inspection (e.g., YOLOv8n), region-based object detectors for defect localization (e.g., Faster R-CNN), and unsupervised anomaly detection models (e.g., Isolation Forest) for acoustic monitoring. This intentional diversity allows for a systematic assessment of whether XAI methods can yield meaningful and interpretable explanations, independent of model structure or task formulation. By focusing on explainability as the primary experimental variable and avoiding model comparison, the research demonstrates that XAI techniques can be effectively applied across various industrial AI pipelines, enhancing transparency, trust, and human-in-the-loop decision-making.
Results
The results section of the study evaluates the explainability outcomes of vision-based inspection and acoustic condition monitoring in manufacturing. For the vision-based pipelines, which include casting defect classification using YOLOv8n and metal surface defect detection with Faster R-CNN, various post-hoc explanation methods (Grad-CAM, Integrated Gradients, Saliency, and Occlusion) were employed to elucidate the spatial evidence behind model decisions. The findings indicate that while all explainability techniques highlight relevant regions, they differ in sensitivity and focus. Gradient-based methods like Grad-CAM yield smoother heatmaps, while saliency-based approaches are more responsive to local variations, underscoring the necessity for careful interpretation supported by domain expertise.
In the casting defect classification task, the YOLOv8n model demonstrated reliable performance metrics, with explainability methods revealing localized attention on defects such as blowholes and cracks, aligning with expert assessments. Integrated Gradients and Saliency maps confirmed that the model’s decisions were based on meaningful surface variations. Similarly, the Faster R-CNN model’s predictions were supported by coherent spatial explanations, with Grad-CAM heatmaps indicating focused attention on defect types like scratches and dents. The study emphasizes that these visual explanations not only validate the models’ decision-making processes but also enhance operator understanding and confidence in deploying AI systems within high-value manufacturing contexts, while also identifying potential biases and areas for dataset improvement.
Discussion
The discussion section of the research paper highlights the growing importance of Explainable AI (XAI) in manufacturing, particularly in areas such as predictive maintenance, defect detection, and process optimization. Systematic reviews indicate a trend towards the practical deployment of XAI techniques, emphasizing the need for model interpretability to enhance understanding of machine learning decisions in safety-critical environments. Existing literature reveals a focus on modality-specific applications, with limited research addressing cross-modal generalization or integrating explainability into unified human-in-the-loop workflows. The proposed cross-modal, explainability-centered framework aims to fill these gaps, as summarized in Table 2, which compares prior studies across various capabilities.
The paper also reviews several benchmark datasets that facilitate the development and validation of AI models in industrial defect detection and monitoring. The Casting Product Dataset, GC10-DET, and MIMII datasets provide standardized testbeds for visual inspection and acoustic anomaly detection, respectively. These datasets not only support algorithmic advancements but also enable exploration of AI trustworthiness dimensions, such as interpretability and transparency. By linking explainability to specific features in these datasets, the research underscores the critical role of XAI in fostering operator trust and ensuring that AI-driven decisions are transparent and aligned with human understanding. The integration of XAI across different modalities is positioned as essential for enhancing the reliability and accountability of AI systems in manufacturing, paving the way for broader adoption in safety-sensitive applications.