DOI: https://doi.org/10.1038/s41746-026-02552-2
PMID: https://pubmed.ncbi.nlm.nih.gov/41857339
تاريخ النشر: 2026-03-19
المؤلف: Jasmine Chiat Ling Ong وآخرون
الموضوع الرئيسي: الذكاء الاصطناعي في الرعاية الصحية والتعليم
نظرة عامة
تؤكد هذه الفقرة على التأثير التحويلي للذكاء الاصطناعي التوليدي (GenAI) ونماذج اللغة الكبيرة (LLMs) على الرعاية الصحية، مع تسليط الضوء على ضرورة معالجة التحديات والشكوك الحالية من خلال تطوير السياسات التنظيمية. تدعو إلى تغيير جذري في نهج دورة حياة المنتج الكاملة (TPLC)، مقترحة أن إطارًا تنظيميًا مبتكرًا واستجابة ضروري للتكيف مع المشهد المتطور لتقنيات الرعاية الصحية.
علاوة على ذلك، يقترح النص إنشاء هيئة مستقلة عالمية لإنشاء أطر طوعية يمكن أن تتطور إلى معايير موثوقة في الصناعة، على غرار دور المعهد الوطني للمعايير والتكنولوجيا (NIST) في الأمن السيبراني. ستسهل هذه المعايير عملية انضمام البائعين من خلال تنفيذ عمليات العناية الواجبة الواضحة، مما يعزز ثقة العملاء، ويعزز اعتماد المنتجات، ويعزز العلاقات المستدامة على المدى الطويل داخل قطاع الرعاية الصحية.
مقدمة
سلطت السرعة في اعتماد الذكاء الاصطناعي التوليدي (GenAI) في الرعاية الصحية الضوء على فجوات تنظيمية كبيرة، لا سيما فيما يتعلق بنماذج اللغة الكبيرة (LLMs) التي تنتج مخرجات متنوعة من بيانات التدريب. على عكس نماذج الذكاء الاصطناعي التقليدية المصممة لقرارات الرعاية الصحية المحددة، تؤدي LLMs مجموعة واسعة من الوظائف، مثل تلخيص المعلومات الطبية واقتراح التشخيصات التفاضلية، مما يعقد الإشراف التنظيمي. اللوائح الحالية للأجهزة الطبية (MDRs) غير مجهزة بشكل كافٍ لمعالجة هذه التحديات، مما يستلزم إعادة تقييم لضمان الصلة والسلامة في سياق تطبيقات GenAI.
تقوم الهيئات التنظيمية، بما في ذلك إدارة الغذاء والدواء الأمريكية (FDA) ووكالة تنظيم الأدوية والمنتجات الصحية في المملكة المتحدة (MHRA)، بتكييف نهج دورة حياة المنتج الكاملة (TPLC) لتعزيز تنظيم الأجهزة الطبية المدعومة بـ GenAI. يسهل هذا النهج التقييم والمراقبة المستمرة من تطوير السوق المسبق إلى الأداء بعد السوق، مما يعزز الابتكار مع ضمان السلامة من خلال تحديد المخاطر مبكرًا والأدلة من العالم الحقيقي. ومع ذلك، فإن دمج LLMs في الأطر الحالية يقدم تحديات، بما في ذلك الحاجة إلى موارد كبيرة ومشاركة مختلف أصحاب المصلحة بخلاف السلطات التنظيمية. أكدت إدارة الغذاء والدواء الأمريكية على أهمية الحفاظ على نظام بيئي تنافسي وتنسيق عالمي للمعايير. تناقش هذه الورقة عدم كفاية نهج TPLC في تنظيم الأجهزة الطبية المعتمدة على LLMs وتدعو إلى التعاون الدولي لتعزيز الحوكمة المسؤولة لـ GenAI.
نقاش
تسلط فقرة النقاش في ورقة البحث الضوء على التحديات التنظيمية الكبيرة المرتبطة بدمج نماذج اللغة الكبيرة (LLMs) في الأجهزة الطبية. تشمل القضايا الرئيسية طبيعة بيانات تدريب LLMs الغامضة، التي غالبًا ما تتكون من مصادر متنوعة وقد تكون مضللة، مما يجعل التدقيق الشامل صعبًا. بالإضافة إلى ذلك، تثير المخرجات غير الحتمية لـ LLMs مخاوف بشأن القابلية للتكرار والموثوقية في البيئات السريرية، خاصةً حيث يمكن أن تؤدي الاختلافات في بناء الجملة المدخلة إلى أداء غير متسق. تؤكد الورقة على الحاجة إلى أطر تقييم قوية لتقييم أداء LLM، خاصةً في اتخاذ القرارات السريرية في العالم الحقيقي، حيث قد لا تعكس التقييمات الحالية فعاليتها بدقة.
علاوة على ذلك، تظل تصنيفات LLMs كأجهزة طبية مثيرة للجدل، حيث تكافح الأطر التنظيمية مثل قانون الذكاء الاصطناعي في الاتحاد الأوروبي وإرشادات إدارة الغذاء والدواء الأمريكية للبرمجيات كجهاز طبي (SaMD) للتكيف مع المخاطر الفريدة التي تطرحها هذه التقنيات. تشير الورقة إلى أن العديد من تطبيقات LLM قد تقع في مناطق رمادية تنظيمية، مما يعقد الإشراف والتنفيذ. كما يتم التأكيد على الاعتبارات الأخلاقية، بما في ذلك خصوصية المرضى وإمكانية تفاقم عدم المساواة الصحية، مما يستلزم نهجًا تعاونيًا بين المنظمين والمطورين والمهنيين في الرعاية الصحية لوضع إرشادات شاملة. يدعو المؤلفون إلى استراتيجيات تنظيمية قابلة للتكيف وأطر مبتكرة، مثل صناديق الرمل التنظيمية، لتسهيل الدمج الآمن لـ LLMs في الرعاية الصحية مع معالجة المخاطر الكامنة والمآزق الأخلاقية.
DOI: https://doi.org/10.1038/s41746-026-02552-2
PMID: https://pubmed.ncbi.nlm.nih.gov/41857339
Publication Date: 2026-03-19
Author(s): Jasmine Chiat Ling Ong et al.
Primary Topic: Artificial Intelligence in Healthcare and Education
Overview
The section emphasizes the transformative impact of Generative AI (GenAI) and Large Language Models (LLMs) on healthcare, highlighting the necessity to address existing challenges and uncertainties through the development of regulatory policies. It advocates for a paradigm shift in the Total Product Life Cycle (TPLC) approach, suggesting that an innovative and responsive regulatory framework is essential to adapt to the evolving landscape of healthcare technologies.
Furthermore, the text proposes the establishment of a global independent body to create voluntary frameworks that could evolve into trusted industry standards, akin to the role of the National Institute of Standards and Technology (NIST) in cybersecurity. These standards would facilitate vendor onboarding by implementing clear due diligence processes, thereby enhancing customer trust, promoting product adoption, and fostering sustainable long-term relationships within the healthcare sector.
Introduction
The rapid adoption of generative artificial intelligence (GenAI) in healthcare has highlighted significant regulatory gaps, particularly concerning large language models (LLMs) that generate diverse outputs from training data. Unlike traditional AI models designed for specific healthcare decisions, LLMs perform a wide range of functions, such as summarizing medical information and suggesting differential diagnoses, complicating regulatory oversight. Current medical device regulations (MDRs) are ill-equipped to address these challenges, necessitating a reevaluation to ensure relevance and safety in the context of GenAI applications.
Regulatory bodies, including the US Food and Drug Administration (FDA) and the UK Medicines and Healthcare products Regulatory Agency (MHRA), are adapting the Total Product Life Cycle (TPLC) approach to enhance the regulation of GenAI-enabled medical devices. This approach facilitates continuous evaluation and monitoring from premarket development to post-market performance, promoting innovation while ensuring safety through early risk identification and real-world evidence. However, the integration of LLMs into existing frameworks presents challenges, including the need for substantial resources and the involvement of various stakeholders beyond regulatory authorities. The FDA has emphasized the importance of maintaining a competitive ecosystem and global harmonization of standards. This paper discusses the inadequacies of the TPLC approach in regulating LLM-based medical devices and advocates for international collaboration to foster responsible GenAI governance.
Discussion
The discussion section of the research paper highlights significant regulatory challenges associated with the integration of large language models (LLMs) into medical devices. Key issues include the opaque nature of LLM training data, which often comprises diverse and potentially misleading sources, making comprehensive scrutiny difficult. Additionally, the non-deterministic outputs of LLMs raise concerns about repeatability and reliability in clinical settings, particularly as variations in input syntax can lead to inconsistent performance. The paper emphasizes the need for robust evaluation frameworks to assess LLM performance, particularly in real-world clinical decision-making, where current evaluations may not accurately reflect their efficacy.
Furthermore, the classification of LLMs as medical devices remains contentious, with regulatory frameworks like the EU AI Act and the US FDA’s Software as a Medical Device (SaMD) guidelines struggling to adapt to the unique risks posed by these technologies. The paper notes that many LLM applications may fall into regulatory grey areas, complicating oversight and enforcement. Ethical considerations, including patient privacy and the potential for exacerbating health inequities, are also underscored, necessitating a collaborative approach among regulators, developers, and healthcare professionals to establish comprehensive guidelines. The authors advocate for adaptive regulatory strategies and innovative frameworks, such as regulatory sandboxes, to facilitate the safe integration of LLMs into healthcare while addressing the inherent risks and ethical dilemmas.