DOI: https://doi.org/10.1109/access.2024.3391130
تاريخ النشر: 2024-01-01
المؤلف: Logan Cummins وآخرون
الموضوع الرئيسي: تحليل المخاطر والسلامة
نظرة عامة
تناقش هذه الفقرة دمج الذكاء الاصطناعي القابل للتفسير (XAI) في الصيانة التنبؤية، وهو مجال يركز على استخدام الذكاء الاصطناعي وتعلم الآلة لتحسين جداول الصيانة للأنظمة الميكانيكية. مع تطبيق الصيانة التنبؤية بشكل متزايد في سياقات حرجة وقد تكون خطرة، تصبح الحاجة إلى الثقة في هذه الأنظمة أمرًا بالغ الأهمية. يقدم المؤلفون مراجعة منهجية للصيانة التنبؤية القابلة للتفسير (XPM)، ملتزمين بإرشادات PRISMA 2020، ويصنفون طرق XAI المختلفة، بما في ذلك الأساليب المستقلة عن النموذج مثل SHAP وLIME وLRP، بالإضافة إلى تقنيات محددة للنموذج مثل GradCAM وDIFFI.
تؤكد الخاتمة على الأهمية المتزايدة للصيانة التنبؤية في تعلم الآلة والتحديات المتعلقة بفهم الأنظمة الميكانيكية المعقدة. تسلط الضوء على الحاجة إلى تحسين القابلية للتفسير في منهجيات الصيانة التنبؤية، مشيرة إلى فجوة كبيرة في تطبيق مقاييس التفسير. يقترح المؤلفون قائمة من المقاييس المحتملة من الأدبيات الحالية ويقترحون إشراك مقيمين بشريين لتعزيز فعالية التفسيرات المقدمة من قبل هذه الأنظمة. تهدف هذه المقاربة إلى تعزيز فهم أعمق للأنظمة الميكانيكية وتحسين ثقة المستخدم في حلول الصيانة التنبؤية.
مقدمة
ت outlines مقدمة الورقة تطور الثورات الصناعية، culminating في الثورة الصناعية الرابعة، المعروفة باسم الصناعة 4.0، التي تؤكد على دمج الآلات من خلال تقنيات الاتصال المتقدمة مثل الذكاء الاصطناعي (AI) وإنترنت الأشياء (IoT). أدت هذه الحقبة إلى تقدم كبير في الأتمتة والكفاءة ولكنها قدمت أيضًا تحديات، خاصة في تحسين الأنظمة الميكانيكية من خلال الصيانة التنبؤية (PdM). تهدف PdM إلى تقليل وقت تعطل النظام من خلال مراقبة العمليات الحالية وتوقع الفشل المحتمل، ومع ذلك، تلقت العوامل البشرية المعنية في هذه الأنظمة اهتمامًا أقل.
تنتقل الثورة الصناعية الخامسة، أو الصناعة 5.0، بالتركيز من الأنظمة الميكانيكية إلى العمليات المتمحورة حول الإنسان، مما يبرز أهمية المشاركة البشرية في أنظمة اتخاذ القرار. تهدف هذه الورقة إلى المساهمة في مجال الصيانة التنبؤية القابلة للتفسير (XPM) من خلال مراجعة منهجية للأدبيات الحالية حول الذكاء الاصطناعي القابل للتفسير (XAI) وتعلم الآلة القابل للتفسير (iML) كما تنطبق على PdM. سيقوم المؤلفون بتصنيف الأساليب المختلفة، وتسليط الضوء على التحديات داخل PdM، واقتراح اتجاهات للبحث المستقبلي، وبالتالي تعزيز الفهم وتنفيذ القابلية للتفسير في أنظمة الصيانة التنبؤية. تم توضيح هيكل المقال، مع تفاصيل الأقسام التي تغطي المفاهيم الأساسية، وطرق البحث في الأدبيات، والنتائج، والتحديات، والملاحظات الختامية.
طرق
تناقش هذه الفقرة دمج عدة طرق للتفسير في تعلم الآلة، مع تسليط الضوء على دراسات مختلفة تستخدم هذه الأساليب دون التأكيد على تفوق واحدة على الأخرى. يمكن استخدام الطرق إما بالتتابع (مكدسة) أو بالتزامن (متزامنة). على سبيل المثال، طور جاكوبوفسكي وآخرون مشفرًا شبه تلقائي للكشف عن الشذوذ باستخدام نموذج XGBoost بديل، محققًا درجة $R^2$ عالية بينما يعزز القابلية للتفسير من خلال TreeExplainer (SHAP). في المقابل، أجرى خان وآخرون وجاكوبوفسكي وآخرون تجارب مع هياكل متعددة ووجدوا أن LIME وSHAP قدما تفسيرات مختلفة ولكنها مشابهة، مما أثار مخاوف بشأن الدقة عبر الهياكل.
بالإضافة إلى ذلك، استكشف سيراديللا وآخرون وبريتو وآخرون نماذج مختلفة للتنبؤ بالعمر المتبقي المفيد (RUL) وكشف الأعطال، على التوالي، مستخدمين طرق تفسير مختلفة لتقييم أهمية الميزات. قام فيرارو وآخرون بتحليل كمي لفعالية SHAP وLIME في نموذج شبكة عصبية متكررة، كاشفين أن LIME واجهت صعوبة في الحفاظ على الاتساق في التفسيرات. أخيرًا، دمج لي وآخرون القابلية للتفسير في إطار عمل AutoML لبيانات المركبات، موضحين فعالية TPOT في الدقة وتأسيس سير عمل للصيانة التنبؤية يتضمن القابلية للتفسير. تتناول الفقرة أيضًا الطرق الإحصائية لتحليل الميزات، كما يتضح من إطار عمل ياو وآخرون، الذي استخدم اختبارات إحصائية للكشف عن الشذوذ في مجموعة بيانات PHM 2012 لمحامل التدحرج، محققًا معدلات إيجابية خاطئة منخفضة.
نتائج
تقدم فقرة النتائج تحليلًا شاملاً للاتجاه المتزايد في المنشورات المتعلقة بالصيانة التنبؤية (PdM)، كما هو موضح في الشكل 4. يُعزى هذا الاتجاه التصاعدي إلى الأهمية المتزايدة للصيانة التنبؤية في مشهد صناعي يركز على البيانات، مما يسهل تطبيق الهياكل العصبية المعقدة في اتخاذ القرارات الحرجة. يتم التأكيد على الحاجة إلى ثقة المستخدم في هذه النماذج، مع الإشارة إلى الأدبيات التي تعرف الثقة على أنها قدرة النموذج على تفسير قراراته بفعالية. يتطلب ذلك استخدام أطر الذكاء الاصطناعي القابل للتفسير (XAI)، التي تفضل بشكل متزايد على طرق تعلم الآلة القابلة للتفسير (iML)، خاصة في سياق مهام PdM.
توضح الأشكال 6 و7 تفضيل XAI في مهام الكشف عن الشذوذ، بينما تظهر تشخيص الأعطال والتنبؤ توزيعًا أكثر توازنًا للمنشورات. من الجدير بالذكر أن التنبؤ يميل إلى إعطاء الأولوية لـ XAI، بينما يميل التشخيص نحو iML، كما هو موضح في الشكل 8. تختتم الفقرة بالإشارة إلى أن مناقشة مفصلة حول الأساليب المختلفة المطبقة على مجموعات البيانات ستتبع في الأقسام اللاحقة، مع التركيز بشكل خاص على طرق XAI في القسم الخامس وطرق iML في القسم السادس، مع إدراج مقالات ذات صلة إضافية في الجدول 4.
مناقشة
في مناقشة القابلية للتفسير والتفسير ضمن الذكاء الاصطناعي (AI) وتعلم الآلة (ML)، يحدد الورقة الفروق الدقيقة بين هذه المفاهيم. بينما يرى بعض الباحثين أنها قابلة للتبادل، يجادل آخرون بأنها تمثل أفكارًا متميزة، مع اقتراح وجهة نظر ثالثة تشير إلى أن أحدهما هو مجموعة فرعية من الآخر. من أجل الوضوح، يعرف المؤلفون القابلية للتفسير على أنها تتعلق بشكل أساسي بمخرجات نماذج الذكاء الاصطناعي، غالبًا من خلال طرق ما بعد الحدث، بينما يركز التفسير على هيكل النموذج ووظيفته، مع التأكيد على الخصائص الجوهرية التي تسهل الفهم دون الحاجة إلى طرق تفسير إضافية.
تستكشف الفقرة أيضًا مجال الذكاء الاصطناعي القابل للتفسير (XAI)، الذي يسعى إلى توضيح reasoning وراء مخرجات الذكاء الاصطناعي. يتم تصنيف طرق XAI إلى أساليب مستقلة عن النموذج وأساليب محددة للنموذج، مع أمثلة مثل التفسيرات الإضافية لشابلي (SHAP) والتفسيرات المحلية القابلة للتفسير المستقلة عن النموذج (LIME) توضح تنوع التقنيات المتاحة. كما تقارن الورقة بين XAI وتعلم الآلة القابل للتفسير (iML)، الذي يركز على النماذج المصممة لتكون قابلة للتفسير بطبيعتها من خلال قيود هيكلية أو وظيفية. يقدم المؤلفون أمثلة ملموسة، مثل استخدام نماذج أبسط كبدائل للشبكات العصبية المعقدة، لتعزيز فهم الأنظمة غير الشفافة. بشكل عام، تؤكد المناقشة على أهمية كل من القابلية للتفسير والتفسير في تعزيز الثقة والفهم في تطبيقات الذكاء الاصطناعي.
القيود
تعترف الدراسة بعدة قيود تتعلق بنطاقها وتغطيتها للأدبيات حول الذكاء الاصطناعي القابل للتفسير (XAI) وتعلم الآلة القابل للتفسير (iML). بشكل محدد، تركز على مجموعة محدودة من الأعمال ذات الصلة، بشكل أساسي تلك المطبقة على الصيانة التنبؤية، والتي قد لا تشمل النطاق الكامل للخوارزميات الموجودة لـ XAI وiML. وبالتالي، قد تتجاهل الدراسة العديد من طرق تعلم الآلة (ML) الشائعة التي قد تكون ذات صلة بمجال الصيانة التنبؤية.
بينما لا يعتبر المؤلفون هذه الإغفالات ضارة بالنتائج العامة للمقال، فإنهم يدركون أن غياب بعض الخوارزميات المعروفة قد يؤثر على شمولية المراجعة. تشير هذه القيود إلى أنه يجب على القراء أن يكونوا على دراية بأساليب إضافية قد تكون مهمة في السياق الأوسع لتطبيقات الصيانة التنبؤية، على الرغم من عدم مناقشتها في هذه الدراسة.
DOI: https://doi.org/10.1109/access.2024.3391130
Publication Date: 2024-01-01
Author(s): Logan Cummins et al.
Primary Topic: Risk and Safety Analysis
Overview
The section discusses the integration of Explainable AI (XAI) into predictive maintenance, a field focused on using artificial intelligence and machine learning to optimize maintenance schedules for mechanical systems. As predictive maintenance is increasingly applied in critical and potentially hazardous contexts, the need for trust in these systems becomes paramount. The authors present a systematic review of explainable predictive maintenance (XPM), adhering to the PRISMA 2020 guidelines, and categorize various XAI methods, including model-agnostic approaches like SHAP, LIME, and LRP, as well as model-specific techniques such as GradCAM and DIFFI.
The conclusion emphasizes the growing importance of predictive maintenance in machine learning and the challenges of understanding complex mechanical systems. It highlights the need for improved explainability in predictive maintenance methodologies, noting a significant gap in the application of explanation metrics. The authors propose a list of potential metrics from existing literature and suggest involving human evaluators to enhance the effectiveness of explanations provided by these systems. This approach aims to foster a deeper understanding of mechanical systems and improve user trust in predictive maintenance solutions.
Introduction
The introduction of the paper outlines the evolution of industrial revolutions, culminating in the fourth industrial revolution, known as Industry 4.0, which emphasizes the integration of machinery through advanced connectivity technologies such as artificial intelligence (AI) and the Internet of Things (IoT). This era has led to significant advancements in automation and efficiency but has also introduced challenges, particularly in optimizing mechanical systems through predictive maintenance (PdM). PdM aims to minimize system downtime by monitoring current operations and predicting potential failures, yet the human factors involved in these systems have received less attention.
The transition to the fifth industrial revolution, or Industry 5.0, shifts the focus from mechanical systems to human-centered processes, emphasizing the importance of human involvement in decision-making systems. This paper aims to contribute to the field of Explainable Predictive Maintenance (XPM) by systematically reviewing existing literature on Explainable AI (XAI) and Interpretable Machine Learning (iML) as they apply to PdM. The authors will categorize various methods, highlight challenges within PdM, and propose directions for future research, thereby enhancing the understanding and implementation of explainability in predictive maintenance systems. The structure of the article is outlined, detailing sections that cover foundational concepts, literature search methodologies, results, challenges, and concluding remarks.
Methods
The section discusses the integration of multiple explainability methods in machine learning, highlighting various studies that utilize these approaches without asserting the superiority of one over another. The methods can be employed either sequentially (stacked) or concurrently (simultaneous). For instance, Jakubowski et al. developed a quasi-autoencoder for anomaly detection using a surrogate XGBoost model, achieving a high $R^2$ score while enhancing explainability through TreeExplainer (SHAP). In contrast, Khan et al. and Jakubowski et al. conducted experiments with multiple architectures and found that LIME and SHAP provided different yet similar explanations, raising concerns about fidelity across architectures.
Additionally, Serradilla et al. and Brito et al. explored various models for predicting remaining useful life (RUL) and fault detection, respectively, employing different explainability methods to assess feature importance. Ferraro et al. quantitatively analyzed the effectiveness of SHAP and LIME in a recurrent neural network model, revealing that LIME struggled with consistency in explanations. Lastly, Li et al. integrated explainability into an AutoML framework for vehicle data, demonstrating the efficacy of TPOT in accuracy and establishing a workflow for predictive maintenance that incorporates explainability. The section also touches on statistical methods for feature analysis, exemplified by Yao et al.’s framework, which utilized statistical tests to detect anomalies in the PHM 2012 rolling bearing dataset, achieving low false positive rates.
Results
The results section presents a comprehensive analysis of the increasing trend in publications related to predictive maintenance (PdM), as illustrated in Figure 4. This upward trajectory is attributed to the growing significance of predictive maintenance in a data-centric industrial landscape, which facilitates the application of complex neural architectures for critical decision-making. The need for user trust in these models is emphasized, with references to literature that defines trust as the ability of a model to explain its decisions effectively. This necessitates the use of explainable artificial intelligence (XAI) frameworks, which are increasingly favored over interpretable machine learning (iML) methods, particularly in the context of PdM tasks.
Figures 6 and 7 further delineate the preference for XAI in anomaly detection tasks, while fault diagnosis and prognosis exhibit a more balanced distribution of publications. Notably, prognosis tends to prioritize XAI, whereas diagnosis leans towards iML, as shown in Figure 8. The section concludes by indicating that a detailed discussion of the various methods applied to the datasets will follow in subsequent sections, specifically focusing on XAI methods in Section V and iML methods in Section VI, with additional relevant articles listed in Table 4.
Discussion
In the discussion of explainability and interpretability within artificial intelligence (AI) and machine learning (ML), the paper delineates the nuanced differences between these concepts. While some researchers view them as interchangeable, others argue they represent distinct ideas, with a third perspective suggesting one is a subset of the other. For clarity, the authors define explainability as primarily concerned with the outputs of AI models, often through post-hoc methods, whereas interpretability focuses on the model’s structure and function, emphasizing intrinsic characteristics that facilitate understanding without additional explanation methods.
The section further explores the field of eXplainable Artificial Intelligence (XAI), which seeks to clarify the reasoning behind AI outputs. XAI methods are categorized into model-agnostic and model-specific approaches, with examples such as Shapley Additive Explanations (SHAP) and Local Interpretable Model-agnostic Explanations (LIME) illustrating the diversity of techniques available. The paper also contrasts XAI with Interpretable Machine Learning (iML), which emphasizes models designed to be inherently interpretable through architectural or functional constraints. The authors provide concrete examples, such as using simpler models as surrogates for complex neural networks, to enhance understanding of black-box systems. Overall, the discussion underscores the importance of both explainability and interpretability in fostering trust and comprehension in AI applications.
Limitations
The study acknowledges several limitations regarding its scope and coverage of the literature on explainable artificial intelligence (XAI) and interpretable machine learning (iML). Specifically, it focuses on a limited selection of relevant works, primarily those applied to predictive maintenance, which may not encompass the full range of existing XAI and iML algorithms. Consequently, the survey may overlook numerous popular machine learning (ML) methods that could be pertinent to the field of predictive maintenance.
While the authors do not consider these omissions detrimental to the overall findings of the article, they recognize that the absence of certain well-known algorithms may affect the comprehensiveness of the review. This limitation suggests that readers should be aware of additional methodologies that, although not discussed in this study, could be significant in the broader context of predictive maintenance applications.