DOI: https://doi.org/10.1016/j.ast.2026.112091
تاريخ النشر: 2026-03-09
المؤلف: Pramudita Satria Palar وآخرون
الموضوع الرئيسي: الذكاء الاصطناعي القابل للتفسير (XAI)
نظرة عامة
يتناول القسم التقدم في تقنيات التعلم الآلي القابلة للتفسير، مع التركيز بشكل خاص على قيود الرسوم البيانية للاعتماد الجزئي (PDPs) في التقاط التفاعلات بين المتغيرات المدخلة في النماذج التنبؤية. يقترح المؤلفون مقياس حساسية عالمي جديد يعتمد على منحنيات التوقع الشرطي الفردي (ICE)، والذي يحسب أهمية الميزات المتوقعة والانحراف المعياري لها لتعكس بشكل أفضل تأثير التفاعلات. يتم التحقق من صحة هذا النهج غير المعتمد على النموذج من خلال تقييمات مقارنة على مشاكل هندسية متنوعة، مما يظهر أن مقاييس المعتمدة على ICE توفر رؤى أغنى من PDPs التقليدية وتكمل طرقًا أخرى مثل SHAP ومؤشرات Sobol’.
يؤكد البحث على تقديم مقاييس أهمية الميزات المعتمدة على ICE التي تعالج أوجه القصور في PDPs، وخاصة مشكلة الارتباط المتناوب. من خلال حساب كل من المتوسط والانحراف المعياري لأهمية الميزات من منحنيات ICE، تسمح المقاييس المقترحة بفهم دقيق لتأثيرات المتغيرات المدخلة، بما في ذلك أقوى وأضعف تأثيراتها. بينما يعترف المؤلفون بالقيود، مثل عدم القدرة على التعامل مع المتغيرات المدخلة المرتبطة والحاجة إلى طرق تكميلية لتحديد التفاعلات المحددة، يقترحون اتجاهات بحث مستقبلية. تشمل هذه الاتجاهات دمج الرؤى من PDP وICE في أطر تحسين، وتعزيز تقنيات التصور، ودمج قياس عدم اليقين، وأتمتة استخراج الرؤى لتحسين قابلية الاستخدام في التطبيقات الهندسية.
مقدمة
تؤكد المقدمة على الدور الحاسم لمحاكاة عالية الدقة في هندسة الفضاء الجوي لتقييم الأداء والتحسين. نظرًا للكثافة الحسابية لهذه المحاكاة، غالبًا ما يلجأ المهندسون إلى نماذج بديلة لتقدير العلاقة بين متغيرات التصميم وكمية الاهتمام (QoI). يتم استخدام تقنيات نمذجة بديلة متنوعة، بما في ذلك الانحدار المتعدد، وكريجينغ، والشبكات العصبية العميقة، لتخفيف التكاليف الحسابية. يتم تسليط الضوء على تحليل الحساسية العالمي (GSA) كأداة حيوية لتحديد المتغيرات المؤثرة في تصميم الهندسة، وخاصة في الديناميكا الهوائية، حيث يساعد في فهم تأثيرات المعلمات الهندسية والحركية على الأداء.
يهدف البحث إلى تعزيز اكتشاف المعرفة في تصميم الهندسة من خلال دمج طرق القابلية للتفسير من التعلم الآلي (ML) مع تحليل الحساسية. تقنيات مثل الرسوم البيانية للاعتماد الجزئي (PDP)، والتوقع الشرطي الفردي (ICE)، وSHapley Additive exPlanations (SHAP) مقترحة لتوضيح سلوك نماذج الصندوق الأسود. بينما يُستخدم SHAP على نطاق واسع لرؤاه القوية، إلا أن له قيودًا في الوصول وتجميع التفسيرات المحلية. يقترح المؤلفون نهجًا جديدًا يجمع بين PDP وICE لتوفير فهم أوضح لتفاعلات المتغيرات وتأثيراتها على توقعات النموذج. يتم التحقق من صحة هذا النهج من خلال ثلاث دراسات حالة، مما يبرز قابليته للتطبيق في استكشاف تصميم الهندسة.
مناقشة
يؤكد قسم المناقشة في البحث على الدور الحاسم لتحليل الحساسية العالمي (GSA) والذكاء الاصطناعي القابل للتفسير (XAI) في هندسة الفضاء الجوي، خاصة في سياق المشكلات عالية الأبعاد حيث تواجه طرق الحساسية التقليدية القائمة على التباين تحديات حسابية. بينما يعد GSA ضروريًا لفهم تأثير المتغيرات، فإنه غالبًا ما يفشل في التقاط الآليات الدقيقة للتأثير عبر نطاقات المدخلات. يسلط المؤلفون الضوء على قيود الطرق الحالية، مثل الرسوم البيانية للاعتماد الجزئي (PDPs)، التي يمكن أن تخفي تأثيرات التفاعل، ويقترحون منحنيات التوقع الشرطي الفردي (ICE) كبديل أكثر معلوماتية يحتفظ بغنى سلوك الاستجابة.
يقدم البحث مقاييس حساسية جديدة تعتمد على ICE تعالج أوجه القصور في طرق GSA التقليدية من خلال قياس تأثيرات التفاعل وتوفير حد أدنى نظري لمؤشرات الحساسية. تسمح هذه المقاييس للمهندسين بتصور وتفسير تأثير المتغيرات المدخلة مع الحفاظ على الوعي بتكاليف الحساب. يجادل المؤلفون بأن طرقهم المقترحة، التي يمكن تطبيقها على أي دالة استجابة بما في ذلك نماذج الصندوق الأسود، تعزز قابلية تفسير النماذج البديلة المعقدة في تصميم الهندسة. يهدف العمل إلى سد الفجوة بين الرؤى البصرية من منحنيات ICE وقياسات الحساسية الرسمية، مما يسهم في اتخاذ قرارات تصميم أكثر استنارة في التطبيقات الحيوية في مجال الفضاء الجوي.
DOI: https://doi.org/10.1016/j.ast.2026.112091
Publication Date: 2026-03-09
Author(s): Pramudita Satria Palar et al.
Primary Topic: Explainable Artificial Intelligence (XAI)
Overview
The section discusses advancements in explainable machine learning techniques, particularly focusing on the limitations of Partial Dependence Plots (PDPs) in capturing interactions among input variables in predictive models. The authors propose a new global sensitivity metric based on Individual Conditional Expectation (ICE) curves, which computes expected feature importance and its standard deviation to better reflect the influence of interactions. This model-agnostic approach is validated through comparative evaluations on various engineering problems, demonstrating that ICE-based metrics provide richer insights than traditional PDPs and complement other methods like SHAP and Sobol’ indices.
The paper emphasizes the introduction of ICE-based feature importance metrics that address the shortcomings of PDPs, particularly the alternating association issue. By calculating both the mean and standard deviation of feature importance from ICE curves, the proposed metrics allow for a nuanced understanding of input variable impacts, including their strongest and weakest influences. While the authors acknowledge limitations, such as the inability to handle correlated input variables and the need for complementary methods to identify specific interactions, they suggest future research directions. These include integrating insights from PDP and ICE into optimization frameworks, enhancing visualization techniques, incorporating uncertainty quantification, and automating the extraction of insights to improve usability in engineering applications.
Introduction
The introduction emphasizes the critical role of high-fidelity simulations in aerospace engineering for performance assessment and optimization. Due to the computational intensity of these simulations, engineers often resort to surrogate models to estimate the relationship between design variables and the Quantity of Interest (QoI). Various surrogate modeling techniques, including polynomial regression, Kriging, and deep neural networks, are employed to mitigate computational costs. Global Sensitivity Analysis (GSA) is highlighted as a vital tool for identifying influential variables in engineering design, particularly in aerodynamics, where it aids in understanding the effects of geometric and kinematic parameters on performance.
The paper aims to enhance knowledge discovery in engineering design by integrating explainability methods from machine learning (ML) with sensitivity analysis. Techniques such as Partial Dependence Plots (PDP), Individual Conditional Expectation (ICE), and SHapley Additive exPlanations (SHAP) are proposed to elucidate the behavior of black-box models. While SHAP is widely used for its robust insights, it has limitations in accessibility and aggregation of local explanations. The authors propose a novel approach that combines PDP and ICE to provide a clearer understanding of variable interactions and their effects on the model’s predictions. This approach is validated through three case studies, showcasing its applicability in engineering design exploration.
Discussion
The discussion section of the paper emphasizes the critical role of Global Sensitivity Analysis (GSA) and Explainable Artificial Intelligence (XAI) in aerospace engineering, particularly in the context of high-dimensional problems where traditional variance-based sensitivity methods face computational challenges. While GSA is essential for understanding variable influence, it often fails to capture the nuanced mechanisms of influence across input ranges. The authors highlight the limitations of existing methods, such as Partial Dependence Plots (PDPs), which can obscure interaction effects, and propose Individual Conditional Expectation (ICE) curves as a more informative alternative that retains the richness of response behavior.
The paper introduces novel ICE-based sensitivity metrics that address the shortcomings of traditional GSA approaches by quantifying interaction effects and providing a theoretical lower bound for sensitivity indices. These metrics allow engineers to visualize and interpret the influence of input variables while maintaining awareness of computational costs. The authors argue that their proposed methods, which can be applied to any response function including black-box models, enhance the interpretability of complex surrogate models in engineering design. The work aims to bridge the gap between visual insights from ICE curves and formal sensitivity measures, ultimately contributing to more informed design decisions in safety-critical aerospace applications.