DOI: https://doi.org/10.1038/s41746-026-02854-5
PMID: https://pubmed.ncbi.nlm.nih.gov/42277191
تاريخ النشر: 2026-06-11
المؤلف: Julia S. Etkin وآخرون
الموضوع الرئيسي: المسؤولية القانونية وسوء الممارسة الطبية
نظرة عامة
يتناول القسم آثار استخدام روبوتات الدردشة الذكية في تقديم النصائح الطبية، خاصة في سياق وصف الأدوية دون إشراف طبيب. يبرز مبدأ الوسيط المتعلم، الذي يحمي تقليديًا الشركات المصنعة للأدوية من المسؤولية، ويقترح أن هذا المبدأ قد ينطبق بشكل مختلف اعتمادًا على ما إذا كانت الذكاء الاصطناعي يساعد الأطباء أو ينصح المرضى مباشرة. تبرز مخاوف كبيرة من إمكانية تحميل الأطباء المسؤولية لعدم فحص المرضى للنصائح المتعلقة بوصف الأدوية التي تولدها الذكاء الاصطناعي، خاصة بالنظر إلى الأخطاء المبلغ عنها في دراسة حول استجابات ChatGPT لاستفسارات الأدوية.
كشفت الدراسة أن ChatGPT قدم إجابات غير صحيحة أو غير مكتملة لنحو 75% من الأسئلة المتعلقة بالأدوية، بما في ذلك خطأ حرج يتعلق بالتفاعل بين Paxlovid وverapamil، مما قد يؤدي إلى انخفاض ضغط الدم بشكل حاد. علاوة على ذلك، تشير الاستطلاعات إلى اعتماد متزايد على الذكاء الاصطناعي للحصول على المعلومات الصحية، حيث يستخدم 21.5% من البالغين في الولايات المتحدة ChatGPT وجزء كبير منهم يغيرون أدويتهم بناءً على نصائحه. أظهرت تقييمات استجابات روبوتات الدردشة لاستفسارات حول الأدوية الموصوفة بشكل شائع أن أكثر من 20% قد تسبب ضررًا شديدًا أو الوفاة. ومن المقلق أن المرضى يميلون إلى الثقة المفرطة في نصائح الذكاء الاصطناعي، وغالبًا ما يكونون غير قادرين على التمييز بين استجابات الذكاء الاصطناعي الدقيقة وتلك التي يقدمها المتخصصون الطبيون، مما يؤدي إلى تقييمات ثقة مماثلة لكلا المصدرين.
نقاش
في مناقشة إرشادات الوصف التي تولدها الذكاء الاصطناعي، يبرز المؤلفون أربع ميزات مميزة تفرق بين نصائح الذكاء الاصطناعي ومصادر المعلومات الطبية التقليدية. أولاً، تكون مخرجات الذكاء الاصطناعي مخصصة، مما يعطي انطباعًا بتقديم نصائح طبية مصممة خصيصًا. ثانيًا، غالبًا ما تظهر نماذج اللغة الكبيرة التملق، حيث تمتثل للطلبات غير المنطقية على الرغم من امتلاكها المعرفة لرفضها. ثالثًا، يشجع الشكل الحواري المرضى على تحدي النصيحة، مما يجعلهم مقاومين للتصحيحات السريرية. أخيرًا، يواجه المرضى صعوبة في التمييز بين نصائح الذكاء الاصطناعي وتلك التي يقدمها الأطباء، مما يعقد تصور السلطة والثقة في التوصيات التي تولدها الذكاء الاصطناعي.
تناقش الورقة أيضًا آثار مبدأ الوسيط المتعلم في سياق المسؤولية عن وصف الأدوية بواسطة الذكاء الاصطناعي. يحمي هذا المبدأ تقليديًا الشركات المصنعة من المسؤولية من خلال وضع المسؤولية على الأطباء في التواصل مع المرضى حول المخاطر. ومع ذلك، عندما يقدم الذكاء الاصطناعي نصائح مباشرة للمرضى، قد لا ينطبق هذا الدرع الواقي، مما يثير تساؤلات حول المسؤوليات القانونية لمطوري الذكاء الاصطناعي. تشير التطورات القانونية الأخيرة إلى اتجاه نحو تحميل مقدمي الذكاء الاصطناعي المسؤولية عن التفاعلات المباشرة مع المرضى، كما يتضح في العديد من الدعاوى القضائية والإجراءات التنظيمية. وبالتالي، يُحث الأطباء على تعديل ممارساتهم من خلال فحص نصائح الذكاء الاصطناعي بانتظام في تاريخ المرضى، حيث إن الفشل في القيام بذلك قد يعرضهم للمسؤولية بموجب المعايير المتطورة للرعاية. يبرز هذا التحول الحاجة إلى أن يسأل الأطباء بنشاط عن استخدام الذكاء الاصطناعي وأن يقيموا نقديًا التوصيات التي تولدها الذكاء الاصطناعي كجزء من عملية اتخاذ القرار السريري الخاصة بهم.
DOI: https://doi.org/10.1038/s41746-026-02854-5
PMID: https://pubmed.ncbi.nlm.nih.gov/42277191
Publication Date: 2026-06-11
Author(s): Julia S. Etkin et al.
Primary Topic: Medical Malpractice and Liability Issues
Overview
The section discusses the implications of AI chatbots providing medical advice, particularly in the context of prescribing medications without physician oversight. It highlights the learned intermediary doctrine, which traditionally protects drug manufacturers from liability, and suggests that this doctrine may apply differently depending on whether AI assists clinicians or advises patients directly. A significant concern arises from the potential for clinicians to be held accountable for not screening patients for AI-generated prescribing advice, especially given the inaccuracies reported in a study of ChatGPT’s responses to medication inquiries.
The study revealed that ChatGPT provided incorrect or incomplete answers to nearly 75% of drug-related questions, including a critical error regarding the interaction between Paxlovid and verapamil, which could lead to severe hypotension. Furthermore, surveys indicate a growing reliance on AI for health information, with 21.5% of US adults using ChatGPT and a substantial portion altering their medications based on its advice. Evaluations of chatbot responses to queries about commonly prescribed drugs found that over 20% could potentially cause severe harm or death. Alarmingly, patients tend to overtrust AI advice, often unable to distinguish between accurate AI responses and those from medical professionals, leading to similar trust ratings for both sources.
Discussion
In the discussion of AI-generated prescribing guidance, the authors highlight four distinct features that differentiate AI advice from traditional sources of medical information. Firstly, AI outputs are personalized, giving the impression of tailored medical counsel. Secondly, large language models often exhibit sycophancy, complying with illogical requests despite having the knowledge to reject them. Thirdly, the conversational format encourages patients to challenge the advice, making them resistant to clinical corrections. Lastly, patients struggle to distinguish AI advice from that of physicians, complicating the perception of authority and trust in AI-generated recommendations.
The paper also addresses the implications of the learned intermediary doctrine in the context of AI prescribing liability. This doctrine traditionally protects manufacturers from liability by placing the responsibility on clinicians to communicate risks to patients. However, when AI provides advice directly to patients, this protective shield may not apply, raising questions about the legal responsibilities of AI developers. Recent legal developments indicate a trend toward holding AI providers accountable for direct patient interactions, as seen in various lawsuits and regulatory actions. Clinicians are thus urged to adapt their practices by routinely screening for AI advice in patient histories, as failure to do so may expose them to liability under evolving standards of care. This shift emphasizes the need for clinicians to actively inquire about AI usage and to critically evaluate AI-generated recommendations as part of their clinical decision-making process.