DOI: https://doi.org/10.1186/s13244-025-01905-x
PMID: https://pubmed.ncbi.nlm.nih.gov/39948192
تاريخ النشر: 2025-02-13
المؤلف: Elmar Kotter وآخرون
الموضوع الرئيسي: الذكاء الاصطناعي في الرعاية الصحية والتعليم
نظرة عامة
تحدد هذه الفقرة بيان الجمعية الأوروبية للأشعة (ESR) بشأن قانون الذكاء الاصطناعي في الاتحاد الأوروبي وتأثيراته على التصوير الطبي. تؤكد على الحاجة إلى سياسات واضحة وتوصيات قابلة للتنفيذ لتسهيل التنفيذ الفعال للتشريع، مع معالجة المجالات الحيوية مثل معرفة الذكاء الاصطناعي، وتصنيف أنظمة الذكاء الاصطناعي عالية المخاطر، وحوكمة البيانات، والإشراف البشري. تهدف الجمعية الأوروبية للأشعة إلى دعم دمج تقنيات الذكاء الاصطناعي بطريقة تعزز دقة التشخيص ورعاية المرضى مع ضمان الامتثال للمتطلبات التنظيمية.
يسلط البيان الضوء على ضرورة انخراط أصحاب المصلحة مع قانون الذكاء الاصطناعي في الاتحاد الأوروبي، حيث ستؤثر أحكامه بشكل كبير على تنظيم وتطبيق الذكاء الاصطناعي في التصوير الطبي. تلتزم الجمعية الأوروبية للأشعة بتطوير إرشادات وأفضل الممارسات بالتعاون مع صانعي السياسات، داعية إلى إنشاء إرشادات تنفيذية مصممة خصيصًا للقطاع الطبي. يجب أن يتم إنشاء هذه الإرشادات بالتشاور مع أصحاب المصلحة المعنيين لضمان نشر تقنيات الذكاء الاصطناعي بشكل مسؤول وفعال في مجال الأشعة.
مقدمة
تشارك الجمعية الأوروبية للأشعة (ESR) بنشاط في المناقشات المتعلقة بقانون الذكاء الاصطناعي (AI Act)، معترفة بتأثيراته الكبيرة على التصوير الطبي. تهدف الجمعية، من خلال مجموعة العمل الخاصة بالذكاء الاصطناعي، إلى تقديم رؤى وتوصيات إلى المفوضية الأوروبية، مع التأكيد على أهمية هذا التشريع في توجيه دمج تقنيات الذكاء الاصطناعي في الممارسات الإشعاعية. مع وجود أكثر من 200 تطبيق معتمد من CE للذكاء الاصطناعي متاح حاليًا، فإن الإمكانية لزيادة تحسين عمليات التشخيص، لا سيما في الأمراض القلبية الوعائية وعلم الأورام، كبيرة.
تدعو الجمعية الأوروبية للأشعة إلى إنشاء إرشادات واضحة ضمن قانون الذكاء الاصطناعي لضمان التنفيذ الآمن والفعال للذكاء الاصطناعي في التصوير الطبي. يشمل ذلك إعطاء الأولوية للتقييم والتحقق الشامل من تقنيات الذكاء الاصطناعي، بالإضافة إلى تطوير بروتوكولات موحدة لتعظيم فوائدها للمرضى ونظام الرعاية الصحية. التوصيات المقدمة من الجمعية هي نتيجة جهود تعاونية بين أطباء الأشعة ذوي الخبرة في الذكاء الاصطناعي، مع معالجة السياسات الرئيسية لقانون الذكاء الاصطناعي ذات الصلة بالممارسة الإشعاعية. كما حددت المجموعة الفجوات والشكوك داخل التشريع، مقترحة حلولًا لضمان أن يدعم قانون الذكاء الاصطناعي الدمج المسؤول للذكاء الاصطناعي مع الحفاظ على معايير عالية لرعاية المرضى والسلامة.
الطرق
هدفت مجموعة العمل الخاصة بالذكاء الاصطناعي في الجمعية الأوروبية للأشعة (ESR) إلى تقديم رؤى خبراء حول قانون الذكاء الاصطناعي في الاتحاد الأوروبي، لا سيما فيما يتعلق بتأثيراته على التصوير الطبي. تتكون المجموعة من أطباء أشعة ذوي خبرة في الذكاء الاصطناعي، وقد اجتمعت بانتظام من أبريل إلى سبتمبر 2024، مستخدمة منصة عبر الإنترنت للتعاون. حددت جلسة العصف الذهني الأولية تسعة مواد حاسمة من قانون الذكاء الاصطناعي ذات الصلة بالمجال، بما في ذلك جوانب مثل المراقبة بعد التسويق، وحوكمة البيانات، وتصنيف المخاطر.
تم تنظيم الأعضاء في مجموعات تركيز أصغر بناءً على خبراتهم لصياغة أقسام سياسة محددة. خضعت هذه المسودات لعدة تكرارات، مع دمج الملاحظات خلال الاجتماعات العامة لتحسين التوصيات. تم تحقيق الإجماع النهائي من خلال المناقشات التعاونية، وحصلت المسودة المكتملة على موافقة مجلس إدارة الجمعية الأوروبية للأشعة، مما يضمن التوافق مع أهداف المنظمة وخبرتها في هذا المجال.
المناقشة
في قسم المناقشة من ورقة البحث، يتم تحديد التعريفات الرئيسية المتعلقة بقانون الذكاء الاصطناعي، بما في ذلك “نظام الذكاء الاصطناعي”، “المزود”، “المستخدم”، و”المشغل”. توضح هذه التعريفات الأدوار والمسؤوليات داخل نظام الذكاء الاصطناعي، لا سيما في البيئات الصحية مثل الأشعة. يتم التأكيد على أهمية معرفة الذكاء الاصطناعي، مع تسليط الضوء على الحاجة إلى أن يكون مقدمو الرعاية الصحية والمرضى على دراية بتقنيات الذكاء الاصطناعي، وفوائدها، ومخاطرها، وتأثيراتها على الإدارة الطبية. تدعو الورقة إلى دمج معرفة الذكاء الاصطناعي في التدريب الطبي وعمليات رعاية المرضى، مقترحة أن يتم النظر بعناية في الموافقة المستنيرة بشأن استخدام الذكاء الاصطناعي.
يتناول القسم أيضًا تصنيف أنظمة الذكاء الاصطناعي عالية المخاطر بموجب قانون الذكاء الاصطناعي في الاتحاد الأوروبي، مشيرًا إلى أن الأجهزة الطبية تقع بطبيعتها ضمن هذه الفئة. يناقش ضرورة وجود إرشادات واضحة بشأن استخدام الذكاء الاصطناعي في الأشعة، لا سيما فيما يتعلق بأدوات الفرز التي قد تؤثر على اتخاذ القرارات السريرية. يوصي المؤلفون بتطوير إرشادات شاملة لتطبيقات الذكاء الاصطناعي عالية المخاطر ويؤكدون على أهمية حوكمة البيانات القوية لضمان جودة وعدالة أنظمة الذكاء الاصطناعي. علاوة على ذلك، تؤكد الورقة على الحاجة إلى الشفافية في مخرجات أنظمة الذكاء الاصطناعي والإشراف البشري للحفاظ على الثقة والسلامة في الرعاية الصحية. تشمل التوصيات تعزيز التدريب لأطباء الأشعة حول أنظمة الذكاء الاصطناعي وإنشاء نظام إدارة جودة يتماشى مع كل من قانون الذكاء الاصطناعي في الاتحاد الأوروبي وتنظيم الأجهزة الطبية في الاتحاد الأوروبي لتبسيط الامتثال وضمان سلامة المرضى.
DOI: https://doi.org/10.1186/s13244-025-01905-x
PMID: https://pubmed.ncbi.nlm.nih.gov/39948192
Publication Date: 2025-02-13
Author(s): Elmar Kotter et al.
Primary Topic: Artificial Intelligence in Healthcare and Education
Overview
The section outlines the European Society of Radiology (ESR) statement regarding the EU AI Act and its implications for medical imaging. It emphasizes the need for clear policies and actionable recommendations to facilitate the effective implementation of the legislation, addressing critical areas such as AI literacy, classification of high-risk AI systems, data governance, and human oversight. The ESR aims to support the integration of AI technologies in a manner that enhances diagnostic accuracy and patient care while ensuring compliance with regulatory requirements.
The statement highlights the urgency for stakeholders to engage with the EU AI Act, as its provisions will significantly influence the regulation and application of AI in medical imaging. The ESR is committed to developing guidelines and best practices in collaboration with policymakers, advocating for the establishment of implementation guidelines tailored to the medical sector. These guidelines should be created in consultation with relevant stakeholders to ensure the responsible and effective deployment of AI technologies in radiology.
Introduction
The European Society of Radiology (ESR) is actively participating in discussions regarding the Artificial Intelligence Act (AI Act), recognizing its significant implications for medical imaging. The ESR, through its AI Working Group, aims to contribute insights and recommendations to the European Commission, emphasizing the importance of this legislation in guiding the integration of AI technologies into radiological practices. With over 200 CE-certified AI applications currently available, the potential for AI to enhance diagnostic processes, particularly in cardiovascular diseases and oncology, is substantial.
The ESR advocates for the establishment of clear guidelines within the AI Act to ensure the safe and effective implementation of AI in medical imaging. This includes prioritizing thorough evaluation and validation of AI technologies, as well as developing standardized protocols to maximize their benefits for patients and the healthcare system. The recommendations presented by the ESR are the result of collaborative efforts among radiologists with expertise in AI, addressing key policies of the AI Act relevant to radiological practice. The group has also identified gaps and uncertainties within the legislation, proposing solutions to ensure that the AI Act supports the responsible integration of AI while maintaining high standards of patient care and safety.
Methods
The ESR AI Working Group, established by the European Society of Radiology (ESR), aimed to provide expert insights on the EU AI Act, particularly concerning its implications for medical imaging. Comprising radiologists with AI expertise, the group convened regularly from April to September 2024, utilizing a shared online platform for collaboration. An initial brainstorming session identified nine critical articles of the AI Act relevant to the field, including aspects such as post-market surveillance, data governance, and risk classification.
Members were organized into smaller focus groups based on their expertise to draft specific policy sections. These drafts underwent multiple iterations, with feedback incorporated during plenary meetings to refine the recommendations. The final consensus was achieved through collaborative discussions, and the completed draft received approval from the ESR Board of Directors, ensuring alignment with the organization’s objectives and expertise in the domain.
Discussion
In the discussion section of the research paper, key definitions related to the AI Act are established, including ‘AI system,’ ‘provider,’ ‘deployer,’ and ‘operator.’ These definitions clarify the roles and responsibilities within the AI ecosystem, particularly in healthcare settings like radiology. The importance of AI literacy is emphasized, highlighting the need for healthcare providers and patients to be informed about AI technologies, their benefits, risks, and implications for medical management. The paper advocates for integrating AI literacy into medical training and patient care processes, suggesting that informed consent regarding AI use should be carefully considered.
The section also addresses the classification of high-risk AI systems under the EU AI Act, noting that medical devices inherently fall into this category. It discusses the necessity for clear guidelines on the use of AI in radiology, particularly concerning triage tools that may influence clinical decision-making. The authors recommend developing comprehensive guidelines for high-risk AI applications and emphasize the importance of robust data governance to ensure the quality and fairness of AI systems. Furthermore, the paper underscores the need for transparency in AI system outputs and human oversight to maintain trust and safety in healthcare. The recommendations include enhancing training for radiologists on AI systems and establishing a quality management system that aligns with both the EU AI Act and the EU Medical Device Regulation to streamline compliance and ensure patient safety.