نماذج المحولات القابلة للتفسير للتنبؤ المبكر بالأمراض المزمنة باستخدام السجلات الصحية الإلكترونية الطويلة الأمد Explainable Transformer Models for Early Prediction of Chronic Diseases Using Longitudinal Electronic Health Records (EHRs)

شارك:
المجلة: EAI Endorsed Transactions on AI and Robotics، المجلد: 5
DOI: https://doi.org/10.4108/airo.11517
تاريخ النشر: 2026-02-11
المؤلف: Hewa Majeed Zangana وآخرون
الموضوع الرئيسي: تعلم الآلة في الرعاية الصحية

نظرة عامة

تقدم هذه الدراسة إطار عمل قائم على المحولات القابلة للتفسير مصمم للتنبؤ المبكر بالأمراض المزمنة باستخدام السجلات الصحية الإلكترونية الطولية (EHRs). يعالج الإطار القيود الموجودة في نماذج التعلم العميق الحالية، التي غالبًا ما تفتقر إلى الشفافية وقابلية التفسير، من خلال دمج بنية محولات واعية بالزمن مع آليات قائمة على الانتباه. يلتقط هذا النهج بفعالية مسارات المرضى المعقدة عبر أحداث سريرية متنوعة، بما في ذلك التشخيصات، ونتائج المختبر، والأدوية، والبيانات الديموغرافية. من خلال دمج تصورات الانتباه على مستوى الميزات والزمن، يحدد النموذج العوامل السريرية المؤثرة والنوافذ الزمنية الحرجة التي تسهم في توقعات بدء المرض، مما يعزز القابلية للتفسير.

تظهر النتائج التجريبية أن النموذج المقترح يتفوق على المعايير الحالية في دقة التنبؤ، والاسترجاع، وقدرات الكشف المبكر عن المخاطر. تتماشى التفسيرات التي يولدها النموذج مع المعرفة الطبية الراسخة، مما يعزز ثقة الأطباء وقابلية الاستخدام في البيئات السريرية. تؤكد الدراسة على أهمية القابلية التفسيرية الجوهرية داخل بنية المحولات، مما يسمح برؤى في الوقت الحقيقي حول عملية اتخاذ القرار للنموذج. ستركز الأبحاث المستقبلية على التحقق السريري، ودمج أنماط بيانات إضافية، وتطوير آليات تفسيرية واعية بالسببية وعدم اليقين، بهدف تعزيز موثوقية وقابلية تطبيق نماذج التنبؤ في إدارة الأمراض المزمنة واتخاذ القرارات الصحية.

مقدمة

تسلط المقدمة الضوء على الزيادة في حالات الأمراض المزمنة، بما في ذلك اضطرابات القلب والأوعية الدموية، والسكري، والحالات المناعية الذاتية، والأمراض النفسية العصبية، التي تشكل عبئًا كبيرًا على أنظمة الرعاية الصحية العالمية. تؤكد على الحاجة الملحة للتنبؤ المبكر بهذه الأمراض لتعزيز الرعاية الوقائية، وتحسين تخصيص الموارد، وتحسين نتائج المرضى. علاوة على ذلك، تدعو هذه الفقرة إلى دمج آليات القابلية التفسيرية المدمجة داخل نماذج التنبؤ، مما يسهل كل من التفسيرات على مستوى الميزات والزمن للتنبؤات التي تم إجراؤها، مما يعزز الشفافية وفائدة هذه النماذج في البيئات السريرية.

الطرق

في هذه الدراسة، تم إجراء تجارب باستخدام مجموعات بيانات السجلات الصحية الإلكترونية الطولية (EHR) التي شملت معلومات سريرية متنوعة مثل رموز التشخيص، والأدوية، ونتائج المختبر، والخصائص الديموغرافية. لمنع تسرب المعلومات، تم تنفيذ تقسيمات على مستوى المرضى. تم تقييم أداء النماذج باستخدام مقاييس مختلفة، بما في ذلك الدقة، والدقة، والاسترجاع، ودرجة F1، والمساحة تحت منحنى ROC (AUC).

ركزت الأبحاث على التنبؤ المبكر بالأمراض عبر عدة آفاق زمنية تؤدي إلى بدء المرض. تم مقارنة النموذج المقترح، المعروف باسم X-TransEHR، بشكل منهجي مع كل من أساليب التعلم الآلي التقليدية وأطر التعلم العميق المعاصرة، التي تضمنت الشبكات العصبية التكرارية وبنى المحولات. كان الهدف من هذا التحليل المقارن هو تقييم فعالية X-TransEHR في التنبؤ بالنتائج الصحية بناءً على البيانات السريرية الغنية المتاحة.

النتائج

تظهر نتائج الدراسة فعالية الإطار القابل للتفسير القائم على المحولات، X-TransEHR، من حيث الأداء التنبؤي، وقدرة التنبؤ المبكر، وقابلية التفسير. تكشف التحليلات المقارنة مع المعايير الحديثة عن فعالية الإطار ومساهماته المبتكرة في هذا المجال.

تتمثل إحدى النتائج الرئيسية في قدرة النموذج على تقديم رؤى قابلة للتفسير من خلال آليات الانتباه الجوهرية الخاصة به، مما يميزه عن النماذج التقليدية ذات الصندوق الأسود. تشير نتائج القابلية للتفسير إلى أن X-TransEHR يركز على الأنماط السريرية ذات الصلة بدلاً من الارتباطات الزائفة، مما يتماشى مع المعرفة الطبية الراسخة. تكشف تصورات الانتباه الزمنية عن نوافذ حرجة قبل التشخيص، بينما تسلط التفسيرات على مستوى الميزات الضوء على السمات السريرية المؤثرة، مما يعزز ثقة الأطباء ويسهل اعتماد النموذج في البيئات السريرية.

المناقشة

ت outlines قسم المناقشة في ورقة البحث تطوير وتقييم إطار عمل قابل للتفسير مصمم للتنبؤ المبكر بالأمراض المزمنة باستخدام السجلات الصحية الإلكترونية الطولية (EHRs). تشمل المساهمات الرئيسية تقديم آليات انتباه مؤقتة وواعية بالميزات تعزز القابلية للتفسير مع الحفاظ على الدقة التنبؤية. يظهر النموذج المقترح، X-TransEHR، أداءً متفوقًا مقارنة بالمعايير الحالية من المحولات والتعلم العميق، محققًا دقة أعلى، ودرجات F1، ومساحة تحت منحنى ROC (AUC) عبر مقاييس التقييم المختلفة. من الجدير بالذكر أن النموذج يقدم تفسيرات ذات مغزى سريري تتماشى مع أنماط تقدم المرض الراسخة، مما يعزز الثقة وقابلية الاستخدام في بيئات الرعاية الصحية.

تؤكد الورقة على جدوى دمج القابلية التفسيرية الجوهرية مباشرة في بنية المحولات، مما يتناقض مع النماذج السابقة التي اعتبرت القابلية التفسيرية كعنصر مساعد. من خلال نمذجة الاعتماديات الزمنية طويلة الأمد واستخدام بيانات EHR المتنوعة، يدعم الإطار تقييم مخاطر الأمراض بشكل استباقي بدلاً من التشخيص التفاعلي. تشير النتائج إلى أن X-TransEHR يمكن أن يساعد بفعالية في تصنيف مخاطر الأمراض المزمنة مبكرًا، مما يسهل التدخلات في الوقت المناسب وتخطيط العلاج الشخصي. تشمل اتجاهات البحث المستقبلية التحقق السريري الاستباقي ودمج أنماط بيانات إضافية لتعزيز موثوقية النموذج وقابلية تطبيقه في سيناريوهات الرعاية الصحية الواقعية.

القيود

تقدم الدراسة نموذجًا قويًا، لكنها تعترف بعدة قيود تستحق الانتباه. أولاً، كانت تقييمات النموذج تعتمد على بيانات السجلات الصحية الإلكترونية (EHR) الاسترجاعية، مما يتطلب التحقق الاستباقي لتأكيد فعاليته في البيئات الواقعية. علاوة على ذلك، تم تسليط الضوء على إمكانية دمج الملاحظات السريرية غير المنظمة والبيانات الجينية كوسيلة لتعزيز قدرات النموذج التنبؤية.

تشمل اتجاهات البحث المستقبلية استكشاف القابلية التفسيرية السببية وتنفيذ النشر في الوقت الحقيقي داخل البيئات السريرية. سيمكن دمج نموذج X-TransEHR المقترح في لوحة دعم اتخاذ القرار السريري من تحديثات مستمرة لمسارات المخاطر وتفسيرات قائمة على الانتباه مع تسجيل بيانات المرضى الجديدة. ستمنح هذه الوظيفة الأطباء القدرة على مراقبة ومعالجة المخاطر المرتفعة للمرضى بشكل استباقي، مما يمنع تقدم المرض غير القابل للعكس. على الرغم من أن دمج أنواع بيانات إضافية قد يزيد من المتطلبات الحاسوبية، فإن تصميم النموذج، وخاصة تجميع الانتباه على مستوى الزيارة، يضمن أن التعقيد يرتبط بشكل أساسي بعدد زيارات المرضى، مما يحافظ على الجدوى للتطبيقات السريرية على نطاق واسع.

Journal: EAI Endorsed Transactions on AI and Robotics, Volume: 5
DOI: https://doi.org/10.4108/airo.11517
Publication Date: 2026-02-11
Author(s): Hewa Majeed Zangana et al.
Primary Topic: Machine Learning in Healthcare

Overview

This study introduces an explainable transformer-based framework designed for the early prediction of chronic diseases using longitudinal electronic health records (EHRs). The framework addresses the limitations of existing deep learning models, which often lack transparency and interpretability, by integrating a time-aware transformer architecture with attention-based mechanisms. This approach effectively captures complex patient trajectories across diverse clinical events, including diagnoses, laboratory results, medications, and demographic data. By incorporating feature-level and temporal attention visualizations, the model identifies influential clinical factors and critical time windows that contribute to disease onset predictions, thereby enhancing explainability.

Experimental results demonstrate that the proposed model outperforms state-of-the-art machine learning and deep learning baselines in predictive accuracy, recall, and early risk detection capabilities. The explanations generated by the model align with established medical knowledge, fostering clinician trust and usability in clinical settings. The study emphasizes the importance of intrinsic explainability within the transformer architecture, allowing for real-time insights into the model’s decision-making process. Future research will focus on clinical validation, integration of additional data modalities, and the development of causal and uncertainty-aware explainability mechanisms, aiming to enhance the reliability and applicability of predictive models in chronic disease management and healthcare decision-making.

Introduction

The introduction highlights the rising incidence of chronic diseases, including cardiovascular disorders, diabetes, autoimmune conditions, and neuropsychiatric illnesses, which significantly strain global healthcare systems. It emphasizes the critical need for early prediction of these diseases to enhance preventive care, optimize resource allocation, and improve patient outcomes. Furthermore, the section advocates for the integration of built-in explainability mechanisms within predictive models, which would facilitate both feature-level and temporal-level interpretations of the predictions made, thereby enhancing the transparency and utility of these models in clinical settings.

Methods

In this study, experiments were performed utilizing longitudinal electronic health record (EHR) datasets that encompassed diverse clinical information such as diagnosis codes, medications, laboratory results, and demographic characteristics. To prevent information leakage, patient-level splits were implemented. The performance of the models was assessed using various metrics, including accuracy, precision, recall, F1-score, and the area under the ROC curve (AUC).

The research focused on early disease prediction across multiple time horizons leading up to disease onset. The proposed model, referred to as X-TransEHR, was systematically compared with both traditional machine learning approaches and contemporary deep learning frameworks, which included recurrent neural networks and transformer-based architectures. This comparative analysis aimed to evaluate the efficacy of X-TransEHR in predicting health outcomes based on the rich clinical data available.

Results

The results of the study demonstrate the efficacy of the proposed explainable transformer-based framework, X-TransEHR, in terms of predictive performance, early prediction capability, and interpretability. Comparative analyses with state-of-the-art baselines reveal the framework’s effectiveness and innovative contributions to the field.

A key finding is the model’s ability to provide interpretable insights through its intrinsic attention mechanisms, distinguishing it from traditional black-box models. The explainability results indicate that X-TransEHR emphasizes clinically relevant patterns rather than spurious correlations, aligning with established medical knowledge. Temporal attention visualizations reveal critical pre-diagnostic windows, while feature-level explanations highlight influential clinical attributes, thereby enhancing clinician trust and facilitating the model’s adoption in clinical settings.

Discussion

The discussion section of the research paper outlines the development and evaluation of an explainable transformer framework designed for early chronic disease prediction using longitudinal electronic health records (EHRs). The key contributions include the introduction of temporally grounded and feature-aware attention mechanisms that enhance interpretability while maintaining predictive accuracy. The proposed model, X-TransEHR, demonstrates superior performance compared to existing transformer and deep learning baselines, achieving higher accuracy, F1-scores, and area under the ROC curve (AUC) across various evaluation metrics. Notably, the model provides clinically meaningful explanations that align with established disease progression patterns, thereby enhancing trust and usability in healthcare settings.

The paper emphasizes the novelty of integrating intrinsic explainability directly into the transformer architecture, contrasting with previous models that treated explainability as an auxiliary component. By modeling long-term temporal dependencies and utilizing heterogeneous EHR data, the framework supports proactive disease risk assessment rather than reactive diagnosis. The findings suggest that X-TransEHR can effectively aid in early chronic disease risk stratification, facilitating timely interventions and personalized treatment planning. Future research directions include prospective clinical validation and the incorporation of additional data modalities to further enhance the model’s reliability and applicability in real-world healthcare scenarios.

Limitations

The study presents a robust model, yet it acknowledges several limitations that warrant attention. Primarily, the model’s evaluation was based on retrospective electronic health record (EHR) data, necessitating prospective validation to confirm its efficacy in real-world settings. Furthermore, the potential integration of unstructured clinical notes and genomic data is highlighted as a means to enhance the model’s predictive capabilities.

Future research directions include the exploration of causal explainability and the implementation of real-time deployment within clinical environments. The proposed integration of the X-TransEHR model into a clinical decision support dashboard would enable continuous updates of risk trajectories and attention-based explanations as new patient data is recorded. This functionality would empower clinicians to monitor and address elevated patient risks proactively, thereby preventing irreversible disease progression. Although the incorporation of additional data types may increase computational demands, the model’s design, particularly the visit-level attention aggregation, ensures that complexity primarily correlates with the number of patient visits, thus maintaining feasibility for large-scale clinical applications.