تعزيز نماذج أساسيات الأشعة مع التفكير من خلال التحقق خطوة بخطوة من التقارير اليومية Advancing radiology foundation models with reasoning through step-by-step verification from daily reports

شارك:
المجلة: Communications Medicine، المجلد: 6، العدد: 1
DOI: https://doi.org/10.1038/s43856-026-01654-y
PMID: https://pubmed.ncbi.nlm.nih.gov/42204307
تاريخ النشر: 2026-05-27
المؤلف: Ziqing Fan وآخرون
الموضوع الرئيسي: تطبيقات تعلم الآلة متعددة الوسائط

نظرة عامة

في هذا البحث، يتناول المؤلفون قيود نماذج الذكاء الاصطناعي الطبية الحالية في التقاط عمليات التفكير المنظم الضرورية للممارسة السريرية. يقدمون ChestX-Reasoner، وهو نموذج لغة كبير متعدد الوسائط (MLLM) للتشخيص الإشعاعي، تم تدريبه باستخدام خط أنابيب من مرحلتين يتضمن إشرافًا على العمليات مستمدًا من التقارير السريرية. تعكس هذه الطريقة التفكير المنهجي الذي يستخدمه أطباء الأشعة.

لتقييم قدرات التفكير في النموذج، طور المؤلفون RadRBench-CXR، وهو معيار يتكون من 59,000 عينة من أسئلة الإجابة المرئية و301,000 خطوة تفكير تم التحقق من صحتها سريريًا، جنبًا إلى جنب مع RadRScore، وهو مقياس لتقييم دقة التفكير، والكمال، والفعالية. تشير النتائج إلى أن ChestX-Reasoner يتفوق على النماذج الطبية الرائدة والنماذج العامة بنسبة 16% و8.5% في القدرة على التفكير، على التوالي، بينما يحقق أيضًا تحسينات في دقة التشخيص تتراوح من 3.3% إلى 24% مقارنة بالنماذج الأساسية. تؤكد هذه النتائج على أهمية دمج خطوات التفكير الصريحة وإشراف العمليات لتعزيز موثوقية وشفافية التشخيصات الطبية.

مقدمة

في مقدمة هذه الورقة البحثية، يناقش المؤلفون التقدم في نماذج اللغة الكبيرة المعززة بالتفكير (LLMs) ونماذج اللغة الكبيرة متعددة الوسائط (MLLMs)، مع تسليط الضوء على نجاحها في مهام مثل الرياضيات، والبرمجة، والتفكير. يؤكدون على أهمية منهجيات سلسلة التفكير (CoT)، التي تولد خطوات تفكير وسيطة لتحسين القابلية للتفسير والأداء. تركز الورقة بشكل خاص على تطبيق هذه النماذج في المجال الطبي، حيث تتطلب تعقيدات البيانات والحاجة إلى التفكير المنهجي في التشخيصات، وخاصة في الأشعة، نهجًا منظمًا لتحليل الصور.

يقترح المؤلفون تطوير نموذج تشخيص إشعاعي، يسمى ChestX-Reasoner، الذي يستفيد من إشراف العمليات من التقارير السريرية لتعزيز قدرات التفكير. يستخدمون GPT-4o لاستخراج الملاحظات السريرية وتوليد أزواج من الأسئلة والأجوبة المتنوعة، مما يخلق مجموعة بيانات عالية الجودة لتدريب النموذج. يتم تدريب ChestX-Reasoner باستخدام إطار عمل من مرحلتين يتضمن التعديل الدقيق تحت الإشراف (SFT) يليه التعلم المعزز (RL) مع إشراف العمليات. يتم تقييم النموذج بدقة باستخدام معيار RadRBench-CXR، الذي يتكون من 59,000 عينة من أسئلة الإجابة المرئية و301,000 خطوة تفكير تم التحقق من صحتها سريريًا. تظهر النتائج تحسينات كبيرة في كل من القدرة على التفكير ودقة النتائج مقارنة بالنماذج الحالية، مما يبرز فوائد دمج خطوات التفكير الصريحة وإشراف العمليات في التشخيصات الطبية. يهدف المؤلفون إلى إلهام المزيد من الأبحاث في تطوير نماذج اللغة الكبيرة المعززة بالتفكير في المجال الطبي، مع توفير جميع الموارد بشكل مفتوح.

طرق

في هذا القسم، يوضح المؤلفون المنهجيات المستخدمة في تطوير ChestX-Reasoner، وهو نموذج لغة كبير متعدد الوسائط (MLLM) يهدف إلى تعزيز تفسير الأشعة السينية للصدر. تتكون مجموعة البيانات، المشار إليها بـ \( D = \{(X_i, Q_i, P_i, C_i, A_i)\}_{i=1}^N \)، من صور الإدخال \( X_i \)، وتعليمات نصية مرتبطة \( Q_i \)، وعمليات تفكير مستخرجة \( P_i \)، وتقارير سريرية \( C_i \)، وأجوبة صحيحة \( A_i \). يتم تصنيف مجموعة البيانات إلى بيانات معززة بالتفكير \( D_R \) وبيانات إجابة فقط \( D_A \)، مما يسمح للنموذج بالعمل في كل من أوضاع التفكير والاستجابة المباشرة من خلال تنسيقات تعليمات متميزة: واحدة تحث على التفكير عبر سلسلة التفكير (CoT) والأخرى تطلب إجابات مباشرة.

تبدأ إجراءات التدريب بتعديل دقيق تحت الإشراف على كل من \( D_R \) و \( D_A \)، تليها التعلم المعزز (RL) باستخدام تحسين السياسة النسبية الجماعية (GRPO) لتعزيز قدرات التفكير. تركز وظائف المكافأة على تنسيق النتائج والدقة، مما يسهل المخرجات المنظمة وتقييم الأداء. بالإضافة إلى ذلك، يتم دمج خطوة تعديل دقيق تحت الإشراف كتهيئة بداية باردة قبل RL، مما يزيد من احتمالية توليد عمليات التفكير والأجوبة. يقارن المؤلفون أيضًا نهجهم بالنماذج الحالية، مع تسليط الضوء على كفاءة خط أنابيب التدريب الخاص بهم وإمكانية تقليل العبء الحاسوبي.

نقاش

في هذا القسم، يقدم المؤلفون RadRBench-CXR، وهو معيار مصمم لتقييم قدرات التفكير في النماذج الطبية من خلال مهام أسئلة الإجابة المرئية (VQA). يتكون المعيار من مهام تشخيصية متنوعة، بما في ذلك تشخيصات الأمراض الثنائية والمتعددة، واكتشاف الشذوذ، وتحليل المقارنة الزمنية، باستخدام بيانات من مجموعات بيانات معروفة مثل MIMIC-CXR وCheXpert وMS-CXR-T. يقدم المؤلفون أيضًا RadRScore، وهو مقياس تقييم جديد يقيم جودة التفكير في النماذج بناءً على ثلاثة أبعاد: الدقة، والكمال، والفعالية. يتم حساب هذا المقياس كمتوسط لهذه الأبعاد، مما يضمن توافق عمليات التفكير بشكل وثيق مع التقارير السريرية.

يستعرض المؤلفون المنهجية لاستخراج سلاسل التفكير من التقارير السريرية، والتي تتضمن بناء خطط التفكير، واستخراج الأدلة التشخيصية، وتحسين السلاسل المنطقية. يؤكدون على استخدام GPT-4o لأتمتة هذه المهام، مشيرين إلى قدراته الفائقة في اتباع التعليمات مقارنة بالنماذج المتخصصة في المجال. تظهر النتائج أن ChestX-Reasoner، النموذج المقترح، يتفوق بشكل كبير على النماذج الكبيرة متعددة الوسائط (MLLMs) الحالية في كل من القدرة على التفكير ودقة النتائج عبر مهام متنوعة. بشكل محدد، يحقق ChestX-Reasoner قيم RadRScore أعلى ودرجات دقة مقارنة بالنماذج الأخرى، مما يبرز فعاليته في توليد عمليات تفكير ذات صلة سريريًا. تتضمن الدراسة أيضًا تحليلًا لإزالة التأثيرات لاستراتيجيات التدريب المختلفة، مما يبرز أهمية إشراف العمليات في تعزيز أداء النموذج.

Journal: Communications Medicine, Volume: 6, Issue: 1
DOI: https://doi.org/10.1038/s43856-026-01654-y
PMID: https://pubmed.ncbi.nlm.nih.gov/42204307
Publication Date: 2026-05-27
Author(s): Ziqing Fan et al.
Primary Topic: Multimodal Machine Learning Applications

Overview

In this research, the authors address the limitations of current medical AI models in capturing the structured reasoning processes essential for clinical practice. They introduce ChestX-Reasoner, a radiology diagnosis multimodal large language model (MLLM), trained using a two-stage pipeline that incorporates process supervision derived from clinical reports. This approach reflects the systematic reasoning employed by radiologists.

To evaluate the model’s reasoning capabilities, the authors developed RadRBench-CXR, a benchmark comprising 59,000 visual question answering samples and 301,000 clinically validated reasoning steps, alongside RadRScore, a metric for assessing reasoning factuality, completeness, and effectiveness. The results indicate that ChestX-Reasoner outperforms leading medical and general-purpose models by 16% and 8.5% in reasoning ability, respectively, while also achieving improvements in diagnostic accuracy ranging from 3.3% to 24% compared to baseline models. These findings underscore the importance of integrating explicit reasoning steps and process supervision to enhance the reliability and transparency of medical diagnoses.

Introduction

In the introduction of this research paper, the authors discuss the advancements in reasoning-enhanced large language models (LLMs) and multimodal large language models (MLLMs), highlighting their success in tasks such as mathematics, programming, and reasoning. They emphasize the importance of chain-of-thought (CoT) methodologies, which generate intermediate reasoning steps to improve interpretability and performance. The paper specifically focuses on the application of these models in the medical field, where the complexity of data and the need for systematic reasoning in diagnostics, particularly in radiology, necessitate a structured approach to image analysis.

The authors propose the development of a radiology diagnosis model, named ChestX-Reasoner, which leverages process supervision from clinical reports to enhance reasoning capabilities. They utilize GPT-4o to extract clinical observations and generate diverse question-answer pairs, creating a high-quality dataset for model training. The ChestX-Reasoner is trained using a two-stage framework that includes Supervised Fine-Tuning (SFT) followed by Reinforcement Learning (RL) with process supervision. The model is rigorously evaluated using the RadRBench-CXR benchmark, which consists of 59,000 visual question-answering samples and 301,000 clinically validated reasoning steps. The results demonstrate significant improvements in both reasoning ability and outcome accuracy compared to existing models, underscoring the benefits of integrating explicit reasoning steps and process supervision in medical diagnostics. The authors aim to inspire further research in the development of medical reasoning MLLMs, with all resources made openly available.

Methods

In this section, the authors detail the methodologies employed in developing the ChestX-Reasoner, a multimodal large language model (MLLM) aimed at enhancing Chest X-ray interpretation. The dataset, denoted as \( D = \{(X_i, Q_i, P_i, C_i, A_i)\}_{i=1}^N \), comprises input images \( X_i \), associated text instructions \( Q_i \), mined reasoning processes \( P_i \), clinical reports \( C_i \), and ground-truth answers \( A_i \). The dataset is categorized into reasoning-augmented data \( D_R \) and answer-only data \( D_A \), allowing the model to operate in both reasoning and direct response modes through distinct instruction formats: one prompting reasoning via chain-of-thought (CoT) and the other requesting direct answers.

The training procedure begins with supervised fine-tuning on both \( D_R \) and \( D_A \), followed by reinforcement learning (RL) utilizing Group Relative Policy Optimization (GRPO) to enhance reasoning capabilities. The reward functions focus on outcome format and accuracy, facilitating structured outputs and performance evaluation. Additionally, a supervised fine-tuning step is incorporated as a cold-start initialization before RL, maximizing the likelihood of generating reasoning processes and answers. The authors also compare their approach with existing models, highlighting the efficiency of their training pipeline and the potential for reduced computational overhead.

Discussion

In this section, the authors introduce RadRBench-CXR, a benchmark designed to evaluate the reasoning capabilities of medical models through visual question answering (VQA) tasks. The benchmark comprises various diagnostic tasks, including binary and multiple disease diagnoses, anomaly detection, and temporal comparison analysis, utilizing data from established datasets like MIMIC-CXR, CheXpert, and MS-CXR-T. The authors also present RadRScore, a novel evaluation metric that assesses the reasoning quality of models based on three dimensions: factuality, completeness, and effectiveness. This metric is calculated as the mean of these dimensions, ensuring that the reasoning processes align closely with clinical reports.

The authors detail the methodology for mining reasoning chains from clinical reports, which involves constructing reasoning plans, extracting diagnostic evidence, and optimizing logical chains. They emphasize the use of GPT-4o for automating these tasks, highlighting its superior instruction-following capabilities compared to domain-specific models. The results demonstrate that ChestX-Reasoner, the proposed model, significantly outperforms existing multimodal large language models (MLLMs) in both reasoning ability and outcome accuracy across various tasks. Specifically, ChestX-Reasoner achieves higher RadRScore values and factuality scores compared to other models, showcasing its effectiveness in generating clinically relevant reasoning processes. The study also includes an ablation analysis of different training strategies, underscoring the importance of process supervision in enhancing model performance.