DOI: https://doi.org/10.3389/frai.2026.1737532
PMID: https://pubmed.ncbi.nlm.nih.gov/41716615
تاريخ النشر: 2026-02-04
المؤلف: Fidelis Fidelis Alu وآخرون
الموضوع الرئيسي: الذكاء الاصطناعي في الرعاية الصحية والتعليم
نظرة عامة
تتناول ورقة البحث دمج الذكاء الاصطناعي (AI) في أنظمة دعم القرار السريري (CDS)، مع تسليط الضوء على تحديات الشفافية، القابلية للتحقق، والمساءلة في التوصيات التي يتم إنشاؤها بواسطة الذكاء الاصطناعي. يقترح المؤلفون إطارًا مفاهيميًا مصممًا لتعزيز موثوقية CDS المعتمد على الذكاء الاصطناعي من خلال دمج مبادئ من الطب القائم على الأدلة والذكاء الاصطناعي الجدير بالثقة. يتضمن هذا الإطار قاعدة معرفة طبية منظمة مع بيانات أصلية، ومحرك استدلال معزز بالاسترجاع (RAG) يربط التوصيات بالإرشادات السريرية والمصادر التي تمت مراجعتها من قبل الأقران، وآلية تسجيل تدقيق واضحة للتلاعب لتوثيق المدخلات، والأدلة، وعمليات الاستدلال للتحليل الرجعي.
تؤكد الورقة أنه على الرغم من أنها لا تقدم خوارزميات أو نماذج أولية جديدة، إلا أنها تجمع بين المنهجيات الموجودة في نظام متماسك يهدف إلى تحسين إمكانية التتبع وثقة الأطباء. تحدد التحديات الرئيسية مثل حوكمة المعرفة، دقة الاقتباس، انتشار التحيز، والامتثال للأطر التنظيمية الناشئة مثل إرشادات إدارة الغذاء والدواء للبرمجيات كجهاز طبي وقانون الذكاء الاصطناعي في الاتحاد الأوروبي. يختتم المؤلفون باقتراح خارطة طريق لتقييم مرحلي تشمل دراسات محاكاة وبحوث مستخدمين تركز على الأطباء لتسهيل التنفيذ والتحقق المستقبلي للإطار، بهدف ضمان أن يعزز الذكاء الاصطناعي اتخاذ القرار الطبي دون المساس بالسلامة أو الشفافية.
مقدمة
تناقش مقدمة هذه الورقة البحثية إمكانيات التعلم الآلي (ML) ونماذج اللغة الكبيرة (LLMs) في تعزيز أنظمة دعم القرار السريري (CDS). تعد هذه التقنيات بتحسين دقة التشخيص وتخصيص توصيات العلاج، مع وجود بعض الدراسات التي تشير إلى أن LLMs المتقدمة يمكن أن تؤدي بشكل مقارن مع الخبراء الطبيين في مهام مثل تشخيص الحالات. على الرغم من الاهتمام المتزايد في دمج الذكاء الاصطناعي التوليدي في سير العمل السريري – كما يتضح من استطلاع يكشف أن 10% من الأطباء يستخدمون نماذج مثل ChatGPT – إلا أن التبني في العالم الحقيقي لا يزال بطيئًا بسبب المخاوف بشأن غموض خوارزميات الذكاء الاصطناعي، التي غالبًا ما تفتقر إلى الشفافية اللازمة للأطباء للتحقق من توصياتهم.
لمعالجة هذه القضايا المتعلقة بالثقة، يقترح المؤلفون إطارًا مفاهيميًا لـ CDS المعتمد على الذكاء الاصطناعي يركز على ميزتين رئيسيتين: التحقق من المصدر وقابلية التدقيق. يهدف هذا الإطار إلى ضمان أن كل توصية يتم إنشاؤها بواسطة الذكاء الاصطناعي يمكن تتبعها إلى مصادر طبية موثوقة وأن جميع عمليات اتخاذ القرار مسجلة للمراجعة. من خلال تضمين استرجاع الأدلة والاقتباس مباشرة في عملية استدلال الذكاء الاصطناعي، يسعى النظام المقترح إلى تعزيز الشفافية والمساءلة، بما يتماشى مع التوقعات التنظيمية للسلامة والتحقق في تطبيقات الذكاء الاصطناعي الطبي. توضح الورقة مبادئ التصميم لإنشاء أنظمة ذكاء اصطناعي قابلة للتدقيق وموثوقة المصدر في الرعاية الصحية، موضعة هذه الابتكارات ضمن السياق الأوسع للطب القائم على الأدلة والإرشادات التنظيمية.
الطرق
في هذا القسم، يحدد المؤلفون الإطار المنهجي لتطوير نظام دعم القرار السريري المعتمد على الذكاء الاصطناعي (AI-CDSS) من خلال تجميع الأفكار من الأدبيات الموجودة. يحددون ثلاثة متطلبات أساسية لتعزيز الثقة في النظام: الشفافية، الموثوقية، والتحكم من قبل المستخدم. لتنفيذ هذه المتطلبات، يقترح المؤلفون بنية معمارية عالية المستوى تتكون من ثلاثة مكونات رئيسية: طبقة بيانات/معرفة للمحتوى الموثوق، ومحرك استرجاع واستدلال لاستجابات الاستعلامات القائمة على الأدلة، وواجهة مستخدم مزودة بتسجيل تدقيق.
تستند قرارات التصميم إلى الأبحاث السابقة، حيث يستلهم آلية استرجاع الأدلة من منصات مثل OpenEvidence (Hurt et al., 2025) وتصميم سجل التدقيق الذي يلتزم بأفضل الممارسات من أبحاث الأصل (Ahmed et al., 2023). تم تحسين الإطار بشكل تكراري ليتماشى مع موضوعات الثقة التي صاغها Tun et al. (2025) والتوصيات من Labkoff et al. (2024). ومن الجدير بالذكر أن المؤلفين يؤكدون أن هذا الإطار مفاهيمي ولا يتضمن تجارب تجريبية أو جمع بيانات.
المناقشة
يدمج الإطار المقترح لدعم القرار السريري بنية متعددة الطبقات مصممة لتعزيز موثوقية وشفافية التوصيات التي يتم إنشاؤها بواسطة الذكاء الاصطناعي في الممارسة الطبية. في قلب هذا النظام توجد طبقة البيانات والمعرفة، التي تجمع بين البيانات السريرية المنظمة والمصادر غير المنظمة، مما يضمن الصلاحية السريرية من خلال بيانات أصلية شاملة وتصنيف الأدلة. تتضمن هذه الطبقة أيضًا خدمات مصطلحات موحدة، مثل SNOMED-CT وUMLS، لتسهيل الخرائط الدلالية الدقيقة للاستعلامات السريرية، وبالتالي معالجة الغموض في اللغة السريرية. بالإضافة إلى ذلك، يتم تنفيذ بروتوكول تدقيق التحيز للتخفيف من التباينات المحتملة في الأدلة الطبية من خلال ضمان تمثيل متنوع في مجموعات الدراسة.
يعالج محرك الاسترجاع والاستدلال استعلامات الأطباء من خلال أولاً إزالة الغموض عن المصطلحات ثم استرجاع الأدلة ذات الصلة من قاعدة المعرفة. يستخدم هذا المحرك بنية استرجاع معززة بالتوليد (RAG) لإنشاء توصيات مرتبطة بشكل صريح بمصادرها، مما يعزز الثقة من خلال الشفافية. يسجل سجل تدقيق غير قابل للتغيير العملية الكاملة لاتخاذ القرار، مما يضمن إمكانية التتبع والمساءلة مع الحفاظ على خصوصية المستخدم. يركز الإطار على قابلية الاستخدام من خلال تقديم توصيات موجزة مع إمكانية الوصول الاختياري إلى الأدلة التفصيلية، مما يقلل من العبء المعرفي على الأطباء. على الرغم من أن النظام لا يزال مفاهيميًا ولم يتم تنفيذه بعد، إلا أنه يهدف إلى معالجة موضوعات الثقة الحرجة في تطبيقات الذكاء الاصطناعي ضمن الرعاية الصحية، بما في ذلك الشفافية، الموثوقية، والمساءلة. ستركز التقييمات المستقبلية على الأداء الفني للإطار، وقابلية الاستخدام، وتأثيره على اتخاذ القرار السريري.
DOI: https://doi.org/10.3389/frai.2026.1737532
PMID: https://pubmed.ncbi.nlm.nih.gov/41716615
Publication Date: 2026-02-04
Author(s): Fidelis Fidelis Alu et al.
Primary Topic: Artificial Intelligence in Healthcare and Education
Overview
The research paper discusses the integration of artificial intelligence (AI) in clinical decision support (CDS) systems, highlighting the challenges of transparency, verifiability, and accountability in AI-generated recommendations. The authors propose a conceptual framework designed to enhance the trustworthiness of AI-based CDS by incorporating principles from evidence-based medicine and trustworthy AI. This framework includes a curated medical knowledge base with provenance metadata, a retrieval-augmented reasoning (RAG) engine that connects recommendations to clinical guidelines and peer-reviewed sources, and a tamper-evident audit logging mechanism to document inputs, evidence, and inference processes for retrospective analysis.
The paper emphasizes that while it does not introduce new algorithms or prototypes, it synthesizes existing methodologies into a coherent system aimed at improving traceability and clinician trust. It identifies key challenges such as knowledge governance, citation fidelity, bias propagation, and compliance with emerging regulatory frameworks like the FDA Software as a Medical Device guidance and the EU Artificial Intelligence Act. The authors conclude by proposing a staged evaluation roadmap that includes simulation studies and clinician-centered user research to facilitate future implementation and validation of the framework, ultimately aiming to ensure that AI enhances medical decision-making without compromising safety or transparency.
Introduction
The introduction of this research paper discusses the potential of machine learning (ML) and large language models (LLMs) in enhancing clinical decision support (CDS) systems. These technologies promise to improve diagnostic accuracy and personalize treatment recommendations, with some studies indicating that advanced LLMs can perform comparably to medical experts in tasks such as case diagnosis. Despite the growing interest in integrating generative AI into clinical workflows—evidenced by a survey revealing that 10% of doctors use models like ChatGPT—real-world adoption remains slow due to concerns over the opacity of AI algorithms, which often lack the transparency necessary for clinicians to validate their recommendations.
To address these trust issues, the authors propose a conceptual framework for AI-based CDS that emphasizes two key features: source verification and auditability. This framework aims to ensure that every AI-generated recommendation is traceable to authoritative medical sources and that all decision-making processes are logged for review. By embedding evidence retrieval and citation directly into the AI’s reasoning process, the proposed system seeks to enhance transparency and accountability, aligning with regulatory expectations for safety and validation in medical AI applications. The paper outlines design principles for creating auditable, source-verified AI systems in healthcare, situating these innovations within the broader context of evidence-based medicine and regulatory guidelines.
Methods
In this section, the authors outline the methodological framework for developing an AI Clinical Decision Support System (AI-CDSS) by synthesizing insights from existing literature. They identify three core requirements for fostering trust in the system: transparency, reliability, and user control. To operationalize these requirements, the authors propose a high-level architecture comprising three main components: a Data/Knowledge Layer for authoritative content, a Retrieval and Reasoning Engine for evidence-based query responses, and a User Interface equipped with Audit Logging.
The design decisions are informed by prior research, with the evidence retrieval mechanism drawing inspiration from platforms like OpenEvidence (Hurt et al., 2025) and the audit log design adhering to best practices from provenance research (Ahmed et al., 2023). The framework was iteratively refined to align with trust themes articulated by Tun et al. (2025) and recommendations from Labkoff et al. (2024). Notably, the authors emphasize that this framework is conceptual and does not involve empirical experiments or data collection.
Discussion
The proposed framework for clinical decision support integrates a multi-layered architecture designed to enhance the reliability and transparency of AI-generated recommendations in medical practice. Central to this system is the Data and Knowledge Layer, which combines structured clinical data with unstructured sources, ensuring clinical validity through comprehensive provenance metadata and evidence grading. This layer also includes standardized terminology services, such as SNOMED-CT and UMLS, to facilitate accurate semantic mapping of clinical queries, thereby addressing ambiguities in clinical language. Additionally, a Bias Auditing Protocol is implemented to mitigate potential disparities in medical evidence by ensuring diverse representation in study populations.
The Retrieval and Reasoning Engine processes clinician queries by first disambiguating terms and then retrieving relevant evidence from the knowledge base. This engine employs a Retrieval-Augmented Generation (RAG) architecture to generate recommendations that are explicitly linked to their sources, thereby enhancing trust through transparency. An immutable audit log captures the entire decision-making process, ensuring traceability and accountability while maintaining user privacy. The framework emphasizes usability by presenting concise recommendations with optional access to detailed evidence, thereby reducing cognitive load for clinicians. Although the system remains conceptual and has not yet been implemented, it aims to address critical trust themes in AI applications within healthcare, including transparency, reliability, and accountability. Future evaluations will focus on the framework’s technical performance, usability, and impact on clinical decision-making.