DOI: https://doi.org/10.1038/s41598-026-50566-3
PMID: https://pubmed.ncbi.nlm.nih.gov/42056472
تاريخ النشر: 2026-04-29
المؤلف: Joohwi Lee وآخرون
الموضوع الرئيسي: تعلم الآلة في علوم المواد
نظرة عامة
في مجال معلومات المواد، أظهرت نماذج التعلم الآلي غير الخطية قدرات تنبؤية قوية لخصائص المواد، ومع ذلك فإن طبيعتها كصندوق أسود تطرح تحديات في التفسير وقد تؤدي إلى تضمين ميزات غير مساهمة. تستخدم هذه الدراسة تقنيات التعلم الآلي القابلة للتفسير (XML)، وتحديداً أهمية الميزات بالتبديل (PFI) وSHapley Additive exPlanation (SHAP)، لتعزيز نموذج الانحدار باستخدام الدعم (SVR) الذي يهدف إلى التنبؤ بفجوات النطاق على مستوى GW باستخدام 18 ميزة إدخال. من خلال تحديد الميزات الأكثر أهمية من خلال XML، يقترح المؤلفون إطار عمل لتطوير نماذج تنبؤية ذات ميزات مخفضة.
تشير النتائج إلى أن نموذجاً مضغوطاً يستخدم أفضل خمس ميزات يحقق دقة مقارنة بالنموذج الأصلي على مجموعات بيانات ضمن المجال (0.254 eV مقابل 0.247 eV) بينما يظهر تحسيناً في التعميم مع انخفاض أخطاء التنبؤ على بيانات خارج المجال (0.348 eV مقابل 0.460 eV). تؤكد الدراسة على أهمية إزالة الميزات المرتبطة بشدة (معامل الارتباط > 0.8) لتجنب سوء تفسير أهمية الميزات. في النهاية، تُظهر الأبحاث أن تقنيات XML يمكن أن تبسط نماذج التعلم الآلي بشكل فعال، مما يعزز دقتها وموثوقيتها في اكتشاف المواد مع تقليل التكاليف الحاسوبية المرتبطة بالحصول على الميزات.
مقدمة
تسلط مقدمة هذه الورقة البحثية الضوء على الدور التحويلي للتعلم الآلي (ML) في معلومات المواد، لا سيما في التنبؤ بخصائص المواد وتسريع عمليات الاكتشاف. أظهرت نماذج ML غير الخطية، مثل آلات الدعم الشعاعي والشبكات العصبية، قدرات تنبؤية متفوقة مقارنة بالنماذج الخطية؛ ومع ذلك، فإن طبيعتها كصندوق أسود تطرح تحديات في التفسير. للتخفيف من هذه المشكلة، ظهرت تقنيات التعلم الآلي القابلة للتفسير (XML)، مما يعزز شفافية النموذج ويساعد على الفهم العلمي من خلال توضيح العلاقات بين هياكل المواد وتركيباتها وخصائصها. تؤكد الورقة على أهمية XML في تحسين موثوقية النموذج، وتصحيح التنبؤات غير المتوقعة، وتحديد الميزات التنبؤية الرئيسية، مما يسهل في النهاية تصميم المواد بشكل أكثر كفاءة.
تركز الدراسة على التنبؤ بفجوة النطاق ($E_g$)، وهي خاصية حاسمة تؤثر على الموصلية الكهربائية للمواد. بينما يوفر نظرية الكثافة الوظيفية (DFT) تقديراً أساسياً لفجوة النطاق، غالباً ما يتم التقليل من تقديراتها. الطرق الأكثر دقة، مثل حسابات مستوى GW، تتطلب موارد حاسوبية كبيرة، مما يستلزم استخدام نماذج ML للتنبؤات الفعالة. يشير المؤلفون إلى الأعمال السابقة التي استخدمت ML لتنبؤات فجوة النطاق، مشيرين إلى أنه بينما طبقت بعض الدراسات تقنيات XML، إلا أنها كانت محدودة إلى حد كبير على فئات مواد معينة، مثل البيروفسكايت أو المواد ثنائية الأبعاد. تهدف هذه الدراسة إلى تطوير إطار عمل XML عام قابل للتطبيق على مجموعة أوسع من المواد غير العضوية، باستخدام نموذج انحدار دعم غير خطي. من خلال الجمع المنهجي بين أهمية الميزات بالتبديل وSHapley Additive exPlanations، يسعى المؤلفون إلى تعزيز تصنيف الميزات واختيارها، مما يؤدي في النهاية إلى بناء نماذج تنبؤية مضغوطة وقابلة للتفسير تحافظ على دقة عالية.
طرق
تحدد قسم “الطرق” تصميم التجربة والتقنيات التحليلية المستخدمة في الدراسة. استخدم الباحثون نهجاً كميًا، حيث تم استخدام التحليلات الإحصائية لتقييم البيانات التي تم جمعها من تجارب مختلفة. تضمنت المنهجيات المحددة تجارب محكومة، حيث تم التلاعب بالمتغيرات بشكل منهجي لملاحظة آثارها على النتائج ذات الصلة.
شملت جمع البيانات استخدام أدوات موحدة لضمان الموثوقية والصلاحية. تم إجراء التحليل باستخدام أدوات برمجية قادرة على إجراء اختبارات إحصائية معقدة، مثل تحليل الانحدار وANOVA، لتحديد الفروق والعلاقات المهمة بين المتغيرات. يؤكد القسم على أهمية القابلية للتكرار والشفافية في الطرق المستخدمة، مما يوفر إطار عمل واضح للبحوث المستقبلية في هذا المجال.
نتائج
في قسم النتائج، استخدمت الدراسة مجموعة مخفضة من 11 ميزة لبناء نموذج تنبؤي، مطبقةً طرق XML مثل أهمية الميزات بالتبديل (PFI) وSHapley Additive exPlanations (SHAP) لتقييم أهمية الميزات. كشفت تحليل PFI أن الميزة \(E_{\text{PBE}}^g\) كانت لها أعلى درجة أهمية تبلغ 2.91 eV، مما يدل على تأثيرها الكبير على التنبؤات لـ \(E_{\text{GW}}^g\) باستخدام نموذج الانحدار باستخدام الدعم (SVR). تضمنت الميزات المهمة الأخرى \(\chi\)، \(\sigma(\chi)\)، و\(|n|\)، مع درجات تتراوح من 0.28 إلى 0.35 eV، بينما أظهرت الميزات المتبقية تأثيراً ضئيلاً مع درجات تتراوح بين 0.03 و0.08 eV.
أكد تحليل SHAP هذه النتائج، حيث كانت \(E_{\text{PBE}}^g\) مرة أخرى في المقدمة عند 1.84 eV، تليها \(\sigma(\chi)\)، \(\chi\)، و\(|n|\) (0.26 إلى 0.29 eV). كما درست الدراسة التأثير الاتجاهي للميزات من خلال معاملات الارتباط (\(r_p\))، والتي أشارت إلى علاقات متسقة عبر اختيارات بيانات متعددة. على وجه التحديد، كانت الزيادات في \(E_{\text{PBE}}^g\)، \(\sigma(\chi)\)، و\(\chi\) مرتبطة بقيم SHAP أعلى، بينما أدت الزيادات في \(|n|\) و\(\sigma(p)\) إلى قيم SHAP أقل. أبلغ هذا التحليل عن بناء “مجموعات ميزات n x”، مما أدى إلى تطوير نماذج تنبؤية بناءً على أهمية الميزات المرتبة المستمدة من طرق XML.
مناقشة
تتناول قسم المناقشة من الورقة البحثية تطوير وتقييم نموذج تنبؤي لتقدير فجوة النطاق ($E_{GW}^{g}$) لـ 270 مركباً غير عضوي ثنائي وثلاثي. تعيد الدراسة النظر في النموذج الذي اقترحه لي وآخرون، باستخدام الانحدار باستخدام الدعم (SVR) مع مجموعة أولية من 18 ميزة إدخال مستمدة من الخصائص العنصرية وحسابات DFT. جانب مهم من هذا البحث هو تقليل أبعاد الميزات من خلال تحليل الارتباط وتقييمات أهمية الميزات باستخدام أهمية الميزات بالتبديل (PFI) وSHapley Additive exPlanation (SHAP). أدى هذا العملية إلى تحديد مجموعة ميزات مضغوطة تحافظ على الأداء التنبؤي بينما تعزز من قابلية التفسير وقدرات التعميم، لا سيما لمجموعات بيانات خارج المجال (OOD).
تشير النتائج إلى أن النماذج التي تستخدم مجموعة ميزات مخفضة من خمس ميزات رئيسية تفوقت على النموذج الأصلي في التنبؤ ببيانات OOD، محققةً خطأ جذر متوسط المربعات (RMSE) قدره 0.348 eV مقارنةً بـ 0.460 eV للنموذج الأصلي. كما تسلط الدراسة الضوء على أهمية استقلال الميزات، حيث أظهرت الميزات المختارة انخفاضًا في التعدد الخطي، مما يضمن تنبؤات قوية. من الجدير بالذكر أن تضمين ميزات مثل الانحراف المعياري للفترة ($\sigma(p)$) ساهم في تحسين أداء التعميم، على الرغم من ارتباطه الضعيف بالمتغير المستهدف. تؤكد الأبحاث على فعالية اختيار الميزات الموجهة بواسطة XML في تعزيز أداء النموذج وتوفر نهجاً منظمًا لتحسين مجموعات الميزات في النمذجة التنبؤية.
DOI: https://doi.org/10.1038/s41598-026-50566-3
PMID: https://pubmed.ncbi.nlm.nih.gov/42056472
Publication Date: 2026-04-29
Author(s): Joohwi Lee et al.
Primary Topic: Machine Learning in Materials Science
Overview
In the field of materials informatics, nonlinear machine learning models have shown strong predictive capabilities for material properties, yet their black-box nature poses challenges for interpretability and may lead to the inclusion of non-contributory features. This study utilizes explainable machine learning (XML) techniques, specifically permutation feature importance (PFI) and SHapley Additive exPlanation (SHAP), to enhance a support vector regression (SVR) model aimed at predicting band gaps at the GW level using 18 input features. By identifying the most significant features through XML, the authors propose a framework for developing reduced-feature predictive models.
The findings indicate that a compact model utilizing the top five features achieves comparable accuracy to the original model on in-domain datasets (0.254 eV vs. 0.247 eV) while exhibiting improved generalization with lower prediction errors on out-of-domain data (0.348 eV vs. 0.460 eV). The study emphasizes the importance of removing strongly correlated features (correlation coefficient > 0.8) to avoid misinterpretation of feature importance. Ultimately, the research demonstrates that XML techniques can effectively streamline machine learning models, enhancing their accuracy and trustworthiness in materials discovery while reducing computational costs associated with feature acquisition.
Introduction
The introduction of this research paper highlights the transformative role of machine learning (ML) in materials informatics, particularly in predicting material properties and accelerating discovery processes. Nonlinear ML models, such as support vector machines and neural networks, have shown superior predictive capabilities compared to linear models; however, their black-box nature poses challenges in interpretability. To mitigate this issue, explainable machine learning (XML) has emerged, enhancing model transparency and aiding scientific understanding by elucidating the relationships between material structures, compositions, and properties. The paper emphasizes the importance of XML in improving model reliability, debugging unexpected predictions, and identifying key predictive features, ultimately facilitating more efficient materials design.
The focus of the study is on predicting the band gap ($E_g$), a critical property influencing the electrical conductivity of materials. While density functional theory (DFT) provides a basic estimation of the band gap, its predictions are often underestimated. More accurate methods, such as GW-level calculations, are computationally intensive, necessitating the use of ML models for efficient predictions. The authors reference previous work that utilized ML for band gap predictions, noting that while some studies have applied XML techniques, they have largely been limited to specific material classes, such as perovskites or two-dimensional materials. This study aims to develop a generalized XML framework applicable to a broader range of inorganic materials, employing a nonlinear support vector regression model. By systematically combining permutation feature importance and SHapley Additive exPlanations, the authors seek to enhance feature ranking and selection, ultimately constructing compact and interpretable predictive models that maintain high accuracy.
Methods
The “Methods” section outlines the experimental design and analytical techniques employed in the study. The researchers utilized a quantitative approach, employing statistical analyses to evaluate the data collected from various experiments. Specific methodologies included controlled experiments, where variables were systematically manipulated to observe their effects on the outcomes of interest.
Data collection involved the use of standardized instruments to ensure reliability and validity. The analysis was conducted using software tools capable of performing complex statistical tests, such as regression analysis and ANOVA, to determine significant differences and relationships among the variables. The section emphasizes the importance of replicability and transparency in the methods used, providing a clear framework for future research in the field.
Results
In the results section, the study utilized a reduced set of 11 features to construct a predictive model, applying XML methods such as Permutation Feature Importance (PFI) and SHapley Additive exPlanations (SHAP) to evaluate feature significance. The PFI analysis revealed that the feature \(E_{\text{PBE}}^g\) had the highest importance score of 2.91 eV, indicating its substantial influence on predictions of \(E_{\text{GW}}^g\) using the Support Vector Regression (SVR) model. Other significant features included \(\chi\), \(\sigma(\chi)\), and \(|n|\), with scores ranging from 0.28 to 0.35 eV, while the remaining features showed minimal impact with scores between 0.03 and 0.08 eV.
The SHAP analysis corroborated these findings, with \(E_{\text{PBE}}^g\) again leading at 1.84 eV, followed by \(\sigma(\chi)\), \(\chi\), and \(|n|\) (0.26 to 0.29 eV). The study also examined the directional influence of features through correlation coefficients (\(r_p\)), which indicated consistent relationships across multiple data selections. Specifically, increases in \(E_{\text{PBE}}^g\), \(\sigma(\chi)\), and \(\chi\) were associated with higher SHAP values, while increases in \(|n|\) and \(\sigma(p)\) resulted in lower SHAP values. This analysis informed the construction of “n x -feature sets,” leading to the development of predictive models based on the ranked importance of features derived from the XML methods.
Discussion
The discussion section of the research paper elaborates on the development and evaluation of a predictive model for estimating the band gap ($E_{GW}^{g}$) of 270 binary and ternary inorganic compounds. The study revisits the model proposed by Lee et al., utilizing Support Vector Regression (SVR) with an initial set of 18 input features derived from elemental properties and DFT calculations. A significant aspect of this research is the reduction of feature dimensionality through correlation analysis and feature importance assessments using Permutation Feature Importance (PFI) and SHapley Additive exPlanation (SHAP). This process led to the identification of a compact feature set that maintains predictive performance while enhancing interpretability and generalization capabilities, particularly for out-of-domain (OOD) datasets.
The findings indicate that models employing a reduced feature set of five key features outperformed the pristine model in predicting OOD data, achieving a root mean square error (RMSE) of 0.348 eV compared to 0.460 eV for the pristine model. The study also highlights the importance of feature independence, as the selected features exhibited low multicollinearity, thereby ensuring robust predictions. Notably, the inclusion of features like the standard deviation of the period ($\sigma(p)$) contributed to improved generalization performance, despite its weak correlation with the target variable. The research underscores the efficacy of XML-guided feature selection in enhancing model performance and provides a structured approach for optimizing feature sets in predictive modeling.