DOI: https://doi.org/10.1038/s41746-025-01536-y
PMID: https://pubmed.ncbi.nlm.nih.gov/40038423
تاريخ النشر: 2025-03-04
المؤلف: Lars Masanneck وآخرون
الموضوع الرئيسي: الذكاء الاصطناعي في الرعاية الصحية والتعليم
نظرة عامة
تبحث هذه الدراسة في فعالية نماذج اللغة الكبيرة (LLMs)، وخاصة تلك المعززة بأنظمة الجيل المدعوم بالاسترجاع (RAG)، في تقديم استجابات دقيقة تستند إلى الإرشادات للأسئلة العصبية. باستخدام 13 إرشادًا حديثًا من الأكاديمية الأمريكية لعلم الأعصاب (AAN)، صاغ الباحثون 130 سؤالًا تم تقسيمها بالتساوي بين الأسئلة المعتمدة على المعرفة والأسئلة القائمة على حالات افتراضية. كشفت النتائج عن تباين كبير في الأداء، حيث أظهرت أنظمة RAG دقة محسنة مقارنة بالنماذج الأساسية، ومع ذلك لا تزال تنتج استجابات قد تكون ضارة. ومن الجدير بالذكر أن أنظمة RAG أدت بشكل أقل فعالية في الأسئلة القائمة على الحالات مقارنة بتلك المعتمدة على المعرفة، مما يشير إلى الحاجة إلى مزيد من التحسين والتنظيم قبل الدمج السريري الآمن.
تسلط الدراسة الضوء على الطبيعة المزدوجة لنماذج اللغة الكبيرة في المجال الطبي، حيث يمكن أن تعزز الوصول إلى معلومات محدثة في ظل التعقيد المتزايد والتخصص في علم الأعصاب. على الرغم من إمكانياتها، فإن الطبيعة الاحتمالية لنماذج اللغة الكبيرة غالبًا ما تؤدي إلى عدم الدقة والهلوسة، مما يبرز ضرورة تحسين قدرات التفكير. إن دمج RAG، الذي يجمع بين نماذج اللغة الكبيرة ومخازن المعرفة القابلة للبحث، يظهر وعدًا في معالجة هذه التحديات، ومع ذلك تدعو النتائج إلى تنفيذ حذر وتطوير مستمر لضمان سلامة وموثوقية هذه التقنيات في الممارسة السريرية.
الطرق
في هذه الدراسة، قام المؤلفون بتحليل ثلاثة عشر إرشادًا تم نشرها مؤخرًا من الأكاديمية الأمريكية لعلم الأعصاب (AAN)، واختيار خمسة جوانب ذات صلة سريرية من كل منها وصياغة سؤالين لكل جانب – واحد قائم على حالة افتراضية وآخر قائم على المعرفة. تم طرح هذه الأسئلة على عدة نماذج متقدمة من نماذج اللغة الكبيرة (LLMs)، بما في ذلك GPT-4o وGPT-4 Turbo وLLaMA3.1-Nemotron، من بين آخرين، لتقييم مدى التزامها بالإرشادات المستندة إلى الأدلة. تم تقييم الاستجابات من حيث الدقة من قبل مقيمين معميين بمستويات مختلفة من الخبرة العصبية، وتصنيف الإجابات على أنها “صحيحة” أو “غير دقيقة” أو “خاطئة” بناءً على توصيات الإرشادات. قام مقيم ثالث بحل التباينات، مما يضمن أن الأخطاء الطفيفة في التفكير لم تؤثر على صحة التوصيات بشكل عام.
شمل عملية التقييم أيضًا تقييم المصادر المذكورة في استجابات نماذج اللغة الكبيرة، لتحديد دقتها وملاءمتها. إذا وُجد أن أي مصدر مزيف أو غير دقيق، تم تصنيف الاستجابة بالكامل على أنها “هلوسة”. استخدمت الدراسة إعداد جيل مدعوم بالاسترجاع (RAG) لتعزيز دقة أفضل نموذج أداء من خلال تضمين الإرشادات في قاعدة بيانات متجهة قابلة للبحث. تم إجراء تحليلات إحصائية، بما في ذلك اختبار فريدمان والانحدار اللوجستي الترتيبي، لمقارنة جودة الاستجابة عبر النماذج وأنواع الأسئلة، مع إجراء تعديلات على المقارنات المتعددة. تساهم النتائج في فهم فعالية نماذج اللغة الكبيرة في تقديم معلومات ذات صلة سريرية استنادًا إلى الإرشادات العصبية المعتمدة.
المناقشة
تقيّم قسم المناقشة أداء نماذج اللغة الكبيرة المختلفة (LLMs) في توليد استجابات مستندة إلى الأدلة تتماشى مع إرشادات الأكاديمية الأمريكية لعلم الأعصاب (AAN). شملت النماذج التي تم اختبارها GPT-4o وGPT-4 Turbo وLLaMA3.1 وغيرها، مع نتائج تشير إلى أن الأنظمة المدعومة بـ RAG، وخاصة نظام الوثائق-RAG GPT-4o، تفوقت بشكل كبير على النماذج الأساسية، محققة 87% من الاستجابات الصحيحة. كشفت التحليلات الإحصائية عن اختلافات كبيرة في الأداء، حيث كان نظام الوثائق-RAG GPT-4o يحقق دقة أعلى باستمرار مقارنة بالنماذج الأخرى. ومع ذلك، أظهرت جميع النماذج مشاكل في موثوقية المصادر، وغالبًا ما تنتج اقتباسات غير صحيحة أو مزيفة، مما يبرز الطبيعة الاحتمالية لنماذج اللغة الكبيرة وقيودها في السياقات السريرية.
تؤكد النتائج على إمكانيات الأنظمة المعززة بـ RAG لتحسين دقة وموثوقية استرجاع المعلومات الطبية، خاصة للاستفسارات المعتمدة على المعرفة. على الرغم من مزاياها، ارتكبت هذه الأنظمة أخطاء ملحوظة، خاصة في السيناريوهات القائمة على الحالات، مما يشير إلى الحاجة إلى مزيد من التحسين والاختبار الدقيق. تؤكد الدراسة على أهمية تطوير مسارات تنظيمية واضحة لدمج نماذج اللغة الكبيرة في الممارسة السريرية، فضلاً عن وضع حدود مقبولة للأخطاء لاستخدامها في اتخاذ القرارات الطبية. بشكل عام، بينما تظهر نماذج اللغة الكبيرة وعدًا في تعزيز الوصول إلى المعلومات المستندة إلى الإرشادات، هناك حاجة إلى تحسينات كبيرة لضمان موثوقيتها وسلامتها في التطبيقات السريرية.
DOI: https://doi.org/10.1038/s41746-025-01536-y
PMID: https://pubmed.ncbi.nlm.nih.gov/40038423
Publication Date: 2025-03-04
Author(s): Lars Masanneck et al.
Primary Topic: Artificial Intelligence in Healthcare and Education
Overview
This study investigates the efficacy of large language models (LLMs), particularly those enhanced with retrieval-augmented generation (RAG) systems, in providing accurate, guideline-based responses to neurological questions. Utilizing 13 recent American Academy of Neurology (AAN) guidelines, the researchers formulated 130 questions that were split evenly between knowledge-based and hypothetical case-based queries. The findings revealed significant variability in performance, with RAG systems demonstrating improved accuracy over base models, yet still generating potentially harmful responses. Notably, RAG systems performed less effectively on case-based questions compared to knowledge-based ones, indicating a need for further refinement and regulation before safe clinical integration.
The study highlights the dual nature of LLMs in the medical field, where they can enhance access to up-to-date information amidst the increasing complexity and specialization in neurology. Despite their potential, the probabilistic nature of LLMs often leads to inaccuracies and hallucinations, underscoring the necessity for improved reasoning capabilities. The integration of RAG, which combines LLMs with searchable knowledge stores, shows promise in addressing these challenges, yet the results call for cautious implementation and ongoing development to ensure the safety and reliability of these technologies in clinical practice.
Methods
In this study, the authors analyzed thirteen recently published American Academy of Neurology (AAN) guidelines, selecting five clinically relevant aspects from each and formulating two questions per aspect—one hypothetical case-based and one knowledge-based. These questions were posed to several advanced large language models (LLMs), including GPT-4o, GPT-4 Turbo, and LLaMA3.1-Nemotron, among others, to evaluate their adherence to evidence-based guidelines. Responses were assessed for accuracy by two blinded raters with varying levels of neurological experience, categorizing answers as “correct,” “inaccurate,” or “wrong” based on guideline recommendations. A third rater resolved discrepancies, ensuring that minor reasoning errors did not detract from the overall correctness of the recommendations.
The evaluation process also included an assessment of the sources cited in the LLM responses, determining their accuracy and relevance. If any source was found to be fabricated or inaccurate, the entire response was categorized as “hallucinated.” The study employed a retrieval-augmented generation (RAG) setup to enhance the accuracy of the best-performing model by embedding guidelines in a searchable vector database. Statistical analyses, including the Friedman test and ordinal logistic regression, were conducted to compare response quality across models and question types, with adjustments made for multiple comparisons. The findings contribute to understanding the efficacy of LLMs in providing clinically relevant information based on established neurological guidelines.
Discussion
The discussion section evaluates the performance of various large language models (LLMs) in generating evidence-based responses aligned with American Academy of Neurology (AAN) guidelines. The models tested included GPT-4o, GPT-4 Turbo, LLaMA3.1, and others, with results indicating that RAG-enabled systems, particularly document-RAG GPT-4o, significantly outperformed base models, achieving 87% correct responses. Statistical analyses revealed substantial differences in performance, with document-RAG GPT-4o consistently yielding higher accuracy compared to other models. However, all models exhibited issues with source reliability, often producing incorrect or fabricated citations, highlighting the probabilistic nature of LLMs and their limitations in clinical contexts.
The findings underscore the potential of RAG-enhanced systems to improve the accuracy and reliability of medical information retrieval, particularly for knowledge-based inquiries. Despite their advantages, these systems still made notable errors, especially in case-based scenarios, suggesting a need for further refinement and rigorous testing. The study emphasizes the importance of developing clear regulatory pathways for integrating LLMs into clinical practice, as well as establishing acceptable error thresholds for their use in medical decision-making. Overall, while LLMs show promise in enhancing access to guideline-based information, significant improvements are necessary to ensure their reliability and safety in clinical applications.
