DOI: https://doi.org/10.3389/frai.2026.1701665
PMID: https://pubmed.ncbi.nlm.nih.gov/41858846
تاريخ النشر: 2026-03-04
المؤلف: Farhad Abtahi وآخرون
الموضوع الرئيسي: الذكاء الاصطناعي في الرعاية الصحية والتعليم
نظرة عامة
تقدم ورقة البحث MEDLEY (نظام تشخيص طبي جماعي مع تنوع مستغل)، وهو إطار جديد للذكاء الاصطناعي الطبي الذي يحتضن بدلاً من القضاء على التحيز. تعتبر الآراء التقليدية التحيز في الذكاء الاصطناعي عيبًا؛ ومع ذلك، تفترض MEDLEY أن التحيزات، التي تشكلها التجارب البشرية والسياقات الثقافية، يمكن أن تكون قيمة. يقوم هذا الإطار بتنظيم نماذج ذكاء اصطناعي متعددة، مما يسمح بالحفاظ على مخرجات متنوعة وتوثيق التحيزات الخاصة بالنموذج كقوى. تم إنشاء نموذج إثبات المفهوم للتشخيص التفريقي باستخدام أكثر من 30 نموذج لغة كبير (LLMs)، والذي يحافظ على كل من الآراء المتوافقة والأقلية، مما يجعل عدم اليقين التشخيصي والتوجهات الكامنة واضحة لمراقبة الأطباء.
تسلط النتائج من إثبات المفهوم الضوء على الجدوى التقنية لاستخدام أنظمة الذكاء الاصطناعي الجماعي لتعزيز التفكير السريري من خلال الحفاظ على تنوع النماذج. بينما تعرض العارض تنظيم LLMs وتكشف عن أنماط من التوافق والاختلاف، إلا أنها لم تتحقق بعد من الأداء السريري. تشمل القيود التحيزات غير المعروفة للنموذج، نقص بيانات المرضى، وغياب التكامل متعدد الوسائط. تشير الدراسة إلى أن MEDLEY يمكن أن تمهد الطريق لطرق فعالة من حيث التكلفة في الذكاء الاصطناعي الطبي، وتعزيز العدالة من خلال تقدير وجهات نظر السكان المتنوعة. تشمل الخطوات المستقبلية التحقق السريري المحتمل، وبحوث العوامل البشرية، والتعاون مع الهيئات التنظيمية من أجل أطر الاعتماد، وتوسيع الإطار ليشمل البيانات متعددة الوسائط مع الحفاظ على هيكله الذي يحافظ على التنوع.
مقدمة
ت outlines مقدمة هذه الورقة البحثية المشهد المتطور للذكاء الاصطناعي (AI) في الرعاية الصحية، مع التركيز بشكل خاص على دمج نماذج اللغة الكبيرة (LLMs). على الرغم من انتشار أكثر من 1,000 أداة ذكاء اصطناعي معتمدة من إدارة الغذاء والدواء في التطبيقات الطبية، لم يتلق أي نظام يعتمد على LLM الموافقة من إدارة الغذاء والدواء للاستخدام السريري، مما يبرز فجوة كبيرة بين التقدم التكنولوجي والرقابة التنظيمية. تثير التحديات الرئيسية مثل التحيز، والهلاوس، والطبيعة الغامضة لأنظمة الذكاء الاصطناعي مخاوف أخلاقية، مما يستلزم أطرًا قوية للمسؤولية والشفافية. بدأت الهيئات التنظيمية مثل إدارة الغذاء والدواء والاتحاد الأوروبي في تنفيذ إرشادات منظمة تهدف إلى ضمان السلامة والفعالية والرقابة البشرية في تطبيقات الذكاء الاصطناعي الطبي.
تقدم الورقة MEDLEY (نظام تشخيص طبي جماعي مع تنوع مستغل)، وهو إطار مفاهيمي مصمم لمعالجة قضايا التحيز والهلاوس في الذكاء الاصطناعي الطبي. على عكس الطرق الجماعية التقليدية التي تقدم مخرجات فردية، تعزز MEDLEY التنوع والشفافية من خلال تنظيم نماذج متعددة بالتوازي، مما يعزز دعم القرار. تم تطوير نظام إثبات المفهوم باستخدام أكثر من 30 LLM لاستكشاف تباين التشخيص ونسب التحيز. يجادل المؤلفون بأن MEDLEY لا يقدم فقط نهجًا جديدًا لتحسين موثوقية الذكاء الاصطناعي في الرعاية الصحية، ولكن له أيضًا آثار أوسع على القابلية للتفسير، والأخلاقيات، والتنظيم، والابتكار في هذا المجال.
النتائج
تناقش قسم النتائج من ورقة البحث الخصائص السلوكية والجدوى الحسابية لإطار تنظيم MEDLEY في سياق التشخيص التفريقي باستخدام بيانات اصطناعية. تعتبر المقاييس المبلغ عنها، بما في ذلك نسب التوافق، وتكرارات الاتفاق، وأنماط تصنيف المخرجات، بمثابة آثار وصفية من نموذج إثبات المفهوم. يتم التأكيد على أنه يجب عدم تفسير هذه الأرقام كمؤشرات على دقة التشخيص، أو الأداء السريري، أو نتائج سلامة المرضى.
الهدف الأساسي من هذا القسم هو توضيح الجدوى التقنية لتنظيم النماذج على نطاق واسع وتسليط الضوء على ظهور أنماط منهجية من الاتفاق والاختلاف بين الفرق المتنوعة. تؤكد النتائج على إمكانية معالجة إطار MEDLEY وحتمية كهيكل قابل للتوسيع يمكن تكييفه لمختلف أنماط الذكاء الاصطناعي الطبي بخلاف نماذج اللغة فقط. يتم توفير مواد إضافية، بما في ذلك تقرير مثال، مع موارد إضافية متاحة على GitHub وموقع المشروع.
المناقشة
يقدم إطار MEDLEY نهجًا جديدًا للتعلم الجماعي في الذكاء الاصطناعي الطبي، مع التركيز على مبادئ التنوع، والشفافية، والتعددية، والسياق. على عكس الطرق التقليدية التي تجمع مخرجات النماذج لتعزيز الدقة، تحافظ MEDLEY على مخرجات متعددة وتحفظ تحيزاتها المرتبطة، معتبرة هذه التباينات موارد قيمة للتفكير السريري. يسمح هذا الإطار للأطباء بتفسير النتائج في ضوء العوامل الخاصة بالمرضى ويعترف بأن التحيزات يمكن أن توفر رؤى حول الاتجاهات التشخيصية الإقليمية أو الزمنية. يتكون هيكل الإطار من ثلاث مراحل: تشغيل نماذج متنوعة بالتوازي، وتنظيم مخرجاتها من خلال التحليل المقارن، وتقديم النتائج في تنسيق قابل للتفسير يبرز كل من التوافق وتوقعات الأقلية.
توضح تجربة إثبات المفهوم باستخدام نماذج اللغة الكبيرة (LLMs) الجدوى التشغيلية لـ MEDLEY وقدرتها على الكشف عن أنماط منهجية من التوافق والاختلاف. تكشف النتائج أن الحفاظ على تنوع التشخيص يعزز الرؤية السريرية، حيث أن الحالات ذات التوافق المنخفض غالبًا ما تتوافق مع حالات نادرة أو خاصة بمنطقة معينة. علاوة على ذلك، تحدد الدراسة فئات مختلفة من التحيزات وآثارها على التفكير التشخيصي، مما يشير إلى أن التعرف على هذه التحيزات وإدارتها يمكن أن يحسن عمليات اتخاذ القرار. بشكل عام، تحول MEDLEY التركيز من مجرد زيادة دقة التنبؤ إلى تعزيز فهم منظم لعدم اليقين والتحيز، مما يثري مشهد التفكير السريري في السياقات الطبية ذات المخاطر العالية.
القيود
تسلط القيود في هذه الدراسة الضوء على تركيزها على إنشاء إطار مفاهيمي بدلاً من التحقق من صحة أداة سريرية. استخدمت الدراسة فقط حالات نصية اصطناعية كحد أدنى من النموذج القابل للتطبيق، مما يعني أن الجوانب الحرجة مثل بيانات المرضى، والدقة السريرية، والسلامة، وفائدة سير العمل لم يتم تقييمها. بينما تتوفر تفاصيل التنفيذ الفني في المستودع، فإن مجموعة نماذج اللغة الكبيرة المستخدمة تفتقر إلى توثيق شامل للتحيز أو ملفات تعريف التدريب. وبالتالي، فإن نسب التحيزات التي تم مناقشتها في القسم 3 تستند إلى أنماط المخرجات الملاحظة بدلاً من الخصائص التدريبية الموثقة، مما يجعلها نتائج توليد فرضيات بدلاً من نتائج نهائية.
علاوة على ذلك، كانت النماذج المستخدمة عامة ولم تتضمن أنظمة توليد معززة بالاسترجاع (RAG) التي يمكن أن تصل إلى الإرشادات السريرية المحلية أو بروتوكولات المؤسسات، والتي تعتبر حيوية للتطبيق العملي. يزيد الاعتماد على واجهات برمجة التطبيقات التجارية من تعقيد إمكانية إعادة الإنتاج. تظهر النتائج بشكل أساسي الجدوى الحسابية وآليات التنظيم، بدلاً من الأداء التشخيصي الفعلي في البيئات السريرية. يجب أن تهدف الأبحاث المستقبلية إلى توسيع إطار MEDLEY ليشمل البيانات متعددة الوسائط، ودمج أنظمة RAG، وتوثيق تحيزات النماذج تجريبيًا، وتقييم الآثار السريرية، وضمان الامتثال التنظيمي قبل التنفيذ في الممارسة العملية.
DOI: https://doi.org/10.3389/frai.2026.1701665
PMID: https://pubmed.ncbi.nlm.nih.gov/41858846
Publication Date: 2026-03-04
Author(s): Farhad Abtahi et al.
Primary Topic: Artificial Intelligence in Healthcare and Education
Overview
The research paper introduces MEDLEY (Medical Ensemble Diagnostic system with Leveraged diversitY), a novel framework for medical artificial intelligence that embraces rather than eliminates bias. Traditional views consider bias in AI as a flaw; however, MEDLEY posits that biases, shaped by human experiences and cultural contexts, can be valuable. This framework orchestrates multiple AI models, allowing for the preservation of diverse outputs and documenting model-specific biases as strengths. A proof-of-concept demonstrator for differential diagnosis was created using over 30 large language models (LLMs), which maintains both consensus and minority opinions, thereby rendering diagnostic uncertainties and latent biases transparent for clinician oversight.
The findings from the proof-of-concept highlight the technical feasibility of using ensemble AI systems to enhance clinical reasoning by preserving model diversity. While the demonstrator showcases the orchestration of LLMs and reveals patterns of consensus and disagreement, it does not yet validate clinical performance. Limitations include unknown model biases, lack of patient data, and absence of multimodal integration. The study suggests that MEDLEY could pave the way for cost-effective pathways in medical AI, promoting equity by valuing diverse population perspectives. Future steps involve prospective clinical validation, human factors research, collaboration with regulatory bodies for certification frameworks, and extending the framework to incorporate multimodal data while maintaining its diversity-preserving architecture.
Introduction
The introduction of this research paper outlines the evolving landscape of Artificial Intelligence (AI) in healthcare, particularly focusing on the integration of large language models (LLMs). Despite the proliferation of over 1,000 FDA-cleared AI tools in medical applications, no LLM-based system has yet received FDA approval for clinical use, highlighting a significant gap between technological advancement and regulatory oversight. Key challenges such as bias, hallucinations, and the opaque nature of AI systems raise ethical concerns, necessitating robust frameworks for accountability and transparency. Regulatory bodies like the FDA and the EU have begun to implement structured guidelines aimed at ensuring safety, efficacy, and human oversight in medical AI applications.
The paper introduces MEDLEY (Medical Ensemble Diagnostic system with LEveraged diversitY), a conceptual framework designed to address issues of bias and hallucination in medical AI. Unlike traditional ensemble methods that provide singular outputs, MEDLEY promotes diversity and transparency by orchestrating multiple models in parallel, thereby enhancing decision support. A proof-of-concept system utilizing over 30 LLMs was developed to explore diagnostic variability and bias attribution. The authors argue that MEDLEY not only offers a novel approach to improving AI reliability in healthcare but also has broader implications for explainability, ethics, regulation, and innovation in the field.
Results
The results section of the research paper discusses the behavioral characteristics and computational feasibility of the MEDLEY orchestration framework in the context of differential diagnosis using synthetic data. The metrics reported, including consensus percentages, agreement frequencies, and output stratification patterns, serve as descriptive artifacts from the proof-of-concept demonstrator. It is emphasized that these figures should not be misconstrued as indicators of diagnostic accuracy, clinical performance, or patient safety outcomes.
The primary aim of this section is to illustrate the technical viability of large-scale model orchestration and to highlight the emergence of systematic patterns of agreement and disagreement among heterogeneous ensembles. The findings affirm the computational tractability of the MEDLEY framework and its potential as an extensible architecture that can be adapted for various medical AI modalities beyond just language models. Supplementary material is provided, including an example report, with additional resources available on GitHub and the project website.
Discussion
The MEDLEY framework introduces a novel approach to ensemble learning in medical AI, emphasizing the principles of diversity, transparency, plurality, and context. Unlike traditional methods that aggregate model outputs to enhance accuracy, MEDLEY preserves multiple outputs and their associated biases, viewing these discrepancies as valuable resources for clinical reasoning. This reframing allows clinicians to interpret results in light of patient-specific factors and acknowledges that biases can provide insights into regional or temporal diagnostic trends. The framework’s architecture consists of three stages: running diverse models in parallel, orchestrating their outputs through comparative analysis, and presenting results in an interpretable format that highlights both consensus and minority predictions.
The proof-of-concept demonstration using large language models (LLMs) illustrates MEDLEY’s operational feasibility and its ability to surface systematic patterns of consensus and disagreement. The findings reveal that preserving diagnostic diversity enhances clinical insight, as lower consensus cases often correspond to rare or region-specific conditions. Moreover, the study identifies various bias categories and their implications for diagnostic reasoning, suggesting that recognizing and managing these biases can improve decision-making processes. Overall, MEDLEY shifts the focus from merely maximizing predictive accuracy to fostering a structured understanding of uncertainty and bias, thereby enriching the clinical reasoning landscape in high-stakes medical contexts.
Limitations
The limitations of this study highlight its focus on establishing a conceptual framework rather than validating a clinical tool. The research utilized only synthetic text-based cases as a minimal viable prototype, which means that critical aspects such as patient data, clinical accuracy, safety, and workflow utility were not evaluated. While technical implementation details are available in the repository, the ensemble of large language models employed lacked comprehensive bias documentation or training profiles. Consequently, the bias attributions discussed in Section 3 are based on observed output patterns rather than validated training characteristics, rendering them as hypothesis-generating rather than definitive findings.
Moreover, the models used were general-purpose and did not incorporate retrieval-augmented generation (RAG) systems that could access local clinical guidelines or institutional protocols, which are vital for practical application. The reliance on commercial APIs further complicates reproducibility. The findings primarily demonstrate computational feasibility and orchestration mechanics, rather than actual diagnostic performance in clinical settings. Future research should aim to extend the MEDLEY framework to include multimodal data, integrate RAG systems, empirically document model biases, evaluate clinical impacts, and ensure regulatory compliance prior to implementation in practice.