DOI: https://doi.org/10.1136/bmjhci-2024-101102
PMID: https://pubmed.ncbi.nlm.nih.gov/39288998
تاريخ النشر: 2024-08-01
المؤلف: Charlotte Blease وآخرون
الموضوع الرئيسي: الذكاء الاصطناعي في الرعاية الصحية والتعليم
نظرة عامة
يقدم هذا القسم من ورقة البحث نظرة عامة على دراسة تهدف إلى تقييم استخدام أدوات الذكاء الاصطناعي التوليدي (AI)، وبشكل خاص الدردشة المدعومة بنماذج اللغة الكبيرة، من قبل الأطباء العامين (GPs) في المملكة المتحدة بعد إطلاق ChatGPT في نوفمبر 2022. تم إجراء استبيان عبر الإنترنت بين عينة غير احتمالية من الأطباء العامين المسجلين في Doctors.net.uk، مع حجم عينة مستهدف يبلغ 1000 مشارك. أظهرت النتائج أن 20% من 1,000 مستجيب أفادوا باستخدام الذكاء الاصطناعي التوليدي في ممارستهم السريرية، مع استخدام 29% من هؤلاء الأدوات للتوثيق بعد مواعيد المرضى و28% للاقتراح بتشخيصات تفريقية.
تسلط النتائج الضوء على أن الأطباء العامين بدأوا في دمج الذكاء الاصطناعي التوليدي في سير العمل الخاص بهم، خاصةً للمهام الإدارية ودعم التفكير السريري. على الرغم من غياب التوجيه الرسمي والسياسات الواضحة بشأن استخدام هذه التقنيات، تؤكد الدراسة على الفوائد المحتملة للذكاء الاصطناعي التوليدي في تعزيز الممارسة السريرية. يؤكد المؤلفون على الحاجة إلى تطوير المجتمع الطبي لموارد تعليمية وإرشادات لضمان الاستخدام الآمن والفعال لهذه الأدوات بين الأطباء ومرضاهم.
مقدمة
تسلط المقدمة الضوء على الزيادة في الاهتمام المحيط بالدردشة المدعومة بنماذج اللغة الكبيرة (LLM)، خاصة بعد إطلاق ChatGPT في نوفمبر 2022. تعمل هذه الدردشات، المدربة على مجموعات بيانات واسعة، كأدوات إكمال تلقائي متقدمة قادرة على توليد وتلخيص النصوص بينما تحاكي التفاعلات الحوارية وتحتفظ بالسياق من المطالبات السابقة. تشير النتائج الأولية إلى قدرتها على تحسين التوثيق السريري، وتقديم تشخيصات تفريقية مفصلة، والمساعدة في كتابة ملاحظات تعاطفية. ومع ذلك، فإن التحديات مثل توليد معلومات خاطئة، والمعروفة باسم “الهلاوس”، وخطر تعزيز عدم المساواة في الرعاية الصحية من خلال التمييز الخوارزمي هي مخاوف كبيرة. بالإضافة إلى ذلك، فإن خصوصية بيانات المرضى في التطبيقات المستندة إلى المستهلك تشكل مخاطر إضافية.
على الرغم من هذه التقدمات، هناك نقص ملحوظ في الأبحاث حول تجارب وآراء الأطباء بشأن اعتماد الذكاء الاصطناعي التوليدي (AI) في البيئات السريرية. تهدف هذه الدراسة إلى التحقيق في استخدام هذا الجيل الجديد من الدردشات بين الأطباء العامين (GPs) في المملكة المتحدة، مع معالجة الفجوة في فهم تكاملها في الممارسة السريرية.
الطرق
في هذه الدراسة، تم إجراء استبيان بين الأطباء العامين (GPs) المسجلين في Doctors.net.uk، أكبر شبكة مهنية للأطباء في المملكة المتحدة، والتي تشمل حوالي 67% من إجمالي الأطباء المسجلين في المملكة المتحدة. تم هيكلة الاستبيان كاستبيان شهري “عابر” مع حجم عينة مستهدف يبلغ 1,000 مشارك، مما يضمن جمع جميع الردود من خلال أسئلة مغلقة. قبل الاستبيان الرئيسي، تم إجراء اختبار تجريبي مع ستة أطباء عامين في المملكة المتحدة لتحسين الأسئلة. تم طمأنة المشاركين بشأن عدم الكشف عن هويتهم وتقديم موافقة مستنيرة، مع الالتزام بمعايير اللائحة العامة لحماية البيانات (GDPR). تم تقديم حافز صغير قدره 7.50 جنيه إسترليني للمشاركة.
تم تقسيم الاستبيان حسب التركيبة السكانية الإقليمية بناءً على بيانات من المجلس الطبي العام (GMC) وتم الترويج له عبر البريد الإلكتروني والصفحة الرئيسية لـ Doctors.net.uk. استمر الاستبيان من 2 فبراير إلى 22 فبراير 2024، محققًا إجمالي 1,006 ردود. سأل السؤال الأول (Q1) المشاركين عما إذا كانوا قد استخدموا أدوات الذكاء الاصطناعي التوليدي مثل ChatGPT أو Bing AI أو Bard من Google في ممارستهم السريرية. نظرًا لنسبة ملحوظة من الردود الإيجابية، تم إدخال سؤال متابعة لاستكشاف التطبيقات المحددة لهذه الأدوات في البيئات السريرية. تم تقديم نتائج مفصلة من أسئلة الاستبيان في الجدول 1 من المواد التكميلية.
النتائج
في استبيان شمل 1006 مستجيب، كشفت التحليلات الديموغرافية أن 531 (53%) كانوا رجالًا، و544 (54%) كانوا في سن 46 عامًا أو أكبر. تضمنت الأدوار المهنية للمستجيبين 455 (45%) يعرفون أنفسهم كـ “شريك/رئيس GP”، و341 (34%) كـ “GP براتب”، و181 (18%) كـ “GP مؤقت”، و29 (3%) كـ “مسجل GP”. يتم تفصيل مقارنة هؤلاء المستجيبين مع سكان الأطباء العامين الحاليين في المملكة المتحدة في الملحق التكميلي 3 عبر الإنترنت.
من الجدير بالذكر أن 20% (205) من المستجيبين أفادوا باستخدام أدوات الذكاء الاصطناعي التوليدي في ممارستهم السريرية. من بين أولئك الذين قدموا مزيدًا من التوضيح، أشار 29% (47) إلى أنهم استخدموا هذه الأدوات لتوليد الوثائق بعد المواعيد، بينما استخدم 28% (45) منها للمساعدة في اقتراح تشخيصات تفريقية.
المناقشة
تسلط قسم المناقشة في ورقة البحث الضوء على النتائج من استبيان تم إجراؤه في فبراير 2024، والذي يعد أكبر تحقيق في استخدام الذكاء الاصطناعي التوليدي من قبل الأطباء في الممارسة السريرية حتى الآن. أظهر الاستبيان أن حوالي 20% من الأطباء العامين في المملكة المتحدة (GPs) أفادوا باستخدام الدردشات المدعومة بنماذج اللغة الكبيرة (LLM)، مع كون ChatGPT الأداة الأكثر شيوعًا. من الجدير بالذكر أن أكثر من 25% من هؤلاء المستخدمين استخدموا الذكاء الاصطناعي التوليدي لمهام مثل كتابة الوثائق بعد المواعيد والمساعدة في التشخيص التفريقي، مما يشير إلى قيمة محتملة في الكفاءة الإدارية ودعم التفكير السريري.
ومع ذلك، يحذر المؤلفون من قيود هذه الأدوات، والتي قد تشمل انتشار الأخطاء والتحيزات الدقيقة، فضلاً عن المخاطر على خصوصية المرضى بسبب سياسات استخدام البيانات غير الواضحة من قبل الشركات التي تقف وراء هذه التقنيات. تشكل البيئة التنظيمية المتطورة تحديات إضافية، حيث لا يزال من غير المؤكد كيف ستتكامل التشريعات القادمة عمليًا مع استخدام الذكاء الاصطناعي التوليدي في البيئات السريرية. يعترف المؤلفون بحدود الاستبيان، بما في ذلك التحيزات المحتملة في العينة والردود، ويؤكدون على الحاجة إلى مزيد من البحث لاستكشاف التنفيذ الآمن والفعال للذكاء الاصطناعي التوليدي في الرعاية الصحية. ويختتمون بالتأكيد على أهمية تثقيف المهنيين الطبيين حول كل من الفوائد والمخاطر المرتبطة بهذه التقنيات، خاصة فيما يتعلق بقضايا مثل التحيز الخوارزمي وسرية المرضى.
DOI: https://doi.org/10.1136/bmjhci-2024-101102
PMID: https://pubmed.ncbi.nlm.nih.gov/39288998
Publication Date: 2024-08-01
Author(s): Charlotte Blease et al.
Primary Topic: Artificial Intelligence in Healthcare and Education
Overview
This section of the research paper presents an overview of a study aimed at assessing the utilization of generative artificial intelligence (AI) tools, specifically large language model-powered chatbots, by general practitioners (GPs) in the UK following the launch of ChatGPT in November 2022. An online survey was conducted among a nonprobability sample of GPs registered with Doctors.net.uk, with a target sample size of 1000 participants. The results indicated that 20% of the 1,000 respondents reported using generative AI in their clinical practice, with 29% utilizing these tools for documentation post-patient appointments and 28% for suggesting differential diagnoses.
The findings highlight that GPs are beginning to integrate generative AI into their workflows, particularly for administrative tasks and clinical reasoning support. Despite the absence of formal guidance and clear policies regarding the use of these technologies, the study underscores the potential benefits of generative AI in enhancing clinical practice. The authors emphasize the need for the medical community to develop educational resources and guidelines to ensure the safe and effective adoption of these tools among physicians and their patients.
Introduction
The introduction highlights the surge in interest surrounding large language model (LLM)-powered chatbots, particularly following the launch of ChatGPT in November 2022. These chatbots, trained on extensive datasets, function as advanced autocompletion tools capable of generating and summarizing text while mimicking conversational interactions and retaining context from previous prompts. Preliminary findings indicate their potential to enhance clinical documentation, provide detailed differential diagnoses, and assist in writing empathetic notes. However, challenges such as the generation of erroneous information, known as “hallucination,” and the risk of perpetuating healthcare inequities through algorithmic discrimination are significant concerns. Additionally, the privacy of patient data in consumer-based applications poses further risks.
Despite these advancements, there is a notable lack of research on clinicians’ experiences and perspectives regarding the adoption of generative artificial intelligence (AI) in clinical settings. This study aims to investigate the usage of this new generation of chatbots among general practitioners (GPs) in the UK, addressing the gap in understanding their integration into clinical practice.
Methods
In this study, a survey was conducted among General Practitioners (GPs) registered with Doctors.net.uk, the largest professional network for UK doctors, encompassing approximately 67% of the total registered doctors in the UK. The survey was structured as a monthly ‘omnibus survey’ with a target sample size of 1,000 participants, ensuring that all responses were collected through closed-ended questions. Prior to the main survey, a pilot test was conducted with six UK GPs to refine the questions. Participants were assured of anonymity and provided informed consent, with data collection adhering to the General Data Protection Regulation (GDPR) standards. A small incentive of £7.50 was offered for participation.
The survey was stratified by regional demographics based on data from the General Medical Council (GMC) and was promoted via email and the Doctors.net.uk homepage. The survey ran from February 2 to February 22, 2024, achieving a total of 1,006 responses. The first question (Q1) asked participants whether they had used generative AI tools such as ChatGPT, Bing AI, or Google’s Bard in their clinical practice. Due to a notable percentage of affirmative responses, a follow-up question was introduced to explore the specific applications of these tools in clinical settings. Detailed results from the survey questions are provided in Table 1 of the supplementary materials.
Results
In a survey of 1006 respondents, the demographic breakdown revealed that 531 (53%) were men, and 544 (54%) were aged 46 years or older. The respondents’ professional roles included 455 (45%) identifying as ‘GP Partner/Principal’, 341 (34%) as ‘Salaried GP’, 181 (18%) as ‘Locum GP’, and 29 (3%) as ‘GP Registrar’. A comparison of these respondents with the current UK GP population is detailed in online supplemental appendix 3.
Notably, 20% (205) of the respondents reported utilizing generative AI tools in their clinical practice. Among those who provided further clarification, 29% (47) indicated that they used these tools for generating documentation post-appointment, while 28% (45) employed them to assist in suggesting differential diagnoses.
Discussion
The discussion section of the research paper highlights the findings from a survey conducted in February 2024, which is the largest investigation into the use of generative AI by doctors in clinical practice to date. The survey revealed that approximately 20% of UK general practitioners (GPs) reported utilizing large language model (LLM)-powered chatbots, with ChatGPT being the most prevalent tool. Notably, over 25% of these users employed generative AI for tasks such as writing documentation post-appointments and aiding in differential diagnosis, indicating a potential value in administrative efficiency and clinical reasoning support.
However, the authors caution against the limitations of these tools, which may include the propagation of subtle errors and biases, as well as risks to patient privacy due to unclear data usage policies by the companies behind these technologies. The evolving regulatory landscape poses additional challenges, as it remains uncertain how forthcoming legislation will practically integrate with the use of generative AI in clinical settings. The authors acknowledge the survey’s limitations, including potential biases in the sample and responses, and emphasize the need for further research to explore the safe and effective implementation of generative AI in healthcare. They conclude by stressing the importance of educating medical professionals about both the benefits and risks associated with these technologies, particularly regarding issues like algorithmic bias and patient confidentiality.