DOI: https://doi.org/10.37349/emed.2026.1001385
تاريخ النشر: 2026-03-04
المؤلف: Luca Fiorillo
الموضوع الرئيسي: الذكاء الاصطناعي في الرعاية الصحية والتعليم
نظرة عامة
تناقش هذه الفقرة الدور المزدوج لنماذج اللغة الكبيرة (LLMs)، مثل ChatGPT، في الكتابة العلمية، لا سيما في المجال الطبي الحيوي. بينما يمكن أن تعزز هذه النماذج الوضوح والكفاءة في صياغة المخطوطات، فإنها أيضًا تشكل مخاطر كبيرة، لا سيما في توليد المراجع المزيفة. تشير الأبحاث إلى أن نسبة مذهلة تبلغ 69% من المراجع في استفسارات ChatGPT الطبية غير صحيحة، حيث تحتوي 7% فقط من المقالات الطبية التي تم إنشاؤها بواسطة الذكاء الاصطناعي على اقتباسات دقيقة. إن انتشار الاقتباسات الوهمية يقوض نزاهة البحث، ويشوه مقاييس الاقتباس، ويفقد الثقة في الأدبيات العلمية. لمكافحة هذه المشكلة، تقوم المجلات بتنفيذ سياسات تلزم بالإفصاح عن استخدام الذكاء الاصطناعي والتحقق البشري من المراجع، ومع ذلك لا تزال تحديات اكتشاف المعلومات المضللة المتعلقة بالذكاء الاصطناعي قائمة.
تؤكد الخاتمة على الحاجة الملحة للمجتمع العلمي لمعالجة المخاطر المرتبطة بالمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي بشكل استباقي. تدعو إلى التقدم التكنولوجي في التحقق من المراجع واكتشاف الذكاء الاصطناعي، إلى جانب تحول ثقافي في ممارسات كتابة المخطوطات ومراجعتها. يجب على جميع أصحاب المصلحة – المؤلفين والمراجعين والمحررين والناشرين والقراء – ممارسة مزيد من اليقظة، والالتزام بالمبادئ الأساسية للتحقق من الاقتباسات. بينما يمكن أن تعزز أدوات الذكاء الاصطناعي الكتابة العلمية، من الضروري الحفاظ على الإشراف البشري والتفكير النقدي للحفاظ على نزاهة البحث الطبي الحيوي. تؤكد الفقرة على أن الدقة الواقعية ضرورية للحفاظ على الثقة في العلوم، وأن الجهود الجماعية ضرورية لاستغلال فوائد الذكاء الاصطناعي مع التخفيف من قدرته على نشر المعلومات المضللة.
مقدمة
أدى إدخال أدوات الكتابة المدعومة بالذكاء الاصطناعي (AI)، لا سيما نماذج اللغة الكبيرة (LLMs)، إلى إثارة اهتمام كبير وجدل داخل المجتمع الأكاديمي، خاصة في العلوم الطبية الحيوية حيث تكون التواصل الدقيق للبيانات أمرًا حاسمًا. يقترح المؤيدون أن هذه الأدوات يمكن أن تعزز عملية الكتابة من خلال تحسين الوضوح، وتقليل التحيزات، وتحديد الأخطاء التحليلية التي قد يغفلها المؤلفون. عند استخدامها بشكل مسؤول، فإن مساعدات الكتابة بالذكاء الاصطناعي لديها القدرة على مساعدة في هيكلة الحجج المعقدة وزيادة دقة المخطوطات العلمية.
ومع ذلك، ظهرت مخاوف بشأن نزاهة النصوص التي يتم إنشاؤها بواسطة الذكاء الاصطناعي، لا سيما قضية المراجع المزيفة. تم الإبلاغ عن حالات حيث تشمل المخطوطات التي تم إنتاجها بمساعدة الذكاء الاصطناعي مصادر غير موجودة، مما يقوض مصداقية المنشورات العلمية. هذه المشكلة مثيرة للقلق بشكل خاص في الأدبيات الطبية، حيث تعتبر الاقتباسات الموثوقة ضرورية لدعم الأبحاث الجديدة. إن وجود مراجع وهمية لا يهدد فقط صلاحية الأوراق الفردية، بل يشكل أيضًا خطرًا على نشر معلومات خاطئة قد تؤثر على الأبحاث المستقبلية والقرارات السريرية. ستستكشف الأقسام التالية من الورقة ظاهرة تصنيع المراجع المتعلقة بالذكاء الاصطناعي، وتقدم أمثلة توضيحية، وتناقش الآثار الأوسع على مجتمع البحث الطبي الحيوي.
نقاش
يسلط النقاش الضوء على القضية المهمة لـ “المراجع الوهمية” التي تنتجها نماذج اللغة الكبيرة (LLMs) مثل ChatGPT، والتي تنتج اقتباسات تبدو موثوقة وغالبًا ما تكون مزيفة تمامًا. تكشف الدراسات الحديثة، بما في ذلك تلك التي أجراها Gravel وآخرون وBhattacharyya وآخرون، أن نسبة كبيرة من المراجع التي تنتجها هذه النماذج إما مخترعة بالكامل أو تحتوي على بيانات وصفية معطلة، حيث تظهر الاقتباسات المزيفة في ما يقرب من 70% من الحالات في بعض التقييمات. تشكل هذه الظاهرة مخاطر جدية على النزاهة الأكاديمية، حيث يمكن أن تضلل الباحثين، وتلوث المراجعات المنهجية، وفي النهاية تشوه الإرشادات السريرية وقرارات السياسة. يؤكد المؤلفون على الحاجة إلى التحقق الدقيق من المخرجات التي تم إنشاؤها بواسطة الذكاء الاصطناعي لمنع انتشار المعلومات المضللة داخل الأدبيات العلمية.
لمعالجة التحديات التي تطرحها المراجع المزيفة، يقترح المؤلفون تصنيفًا يحدد أنواع تصنيع المراجع إلى ثلاثة أنواع: مراجع مزيفة بالكامل، مراجع حقيقية تحتوي على بيانات وصفية معطلة، ومراجع هجينة تمزج عناصر من اقتباسات حقيقية. يدعون إلى تنفيذ حلول تكنولوجية، مثل أدوات التحقق الآلي من الاقتباسات، إلى جانب التحولات الثقافية في المجتمع العلمي التي تعطي الأولوية للنزاهة والتحقق. يؤكد النقاش على أهمية توعية الباحثين بالمخاطر المرتبطة بالمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي وضرورة الحفاظ على اليقظة في عملية المراجعة من قبل الأقران للحفاظ على موثوقية التواصل العلمي.
DOI: https://doi.org/10.37349/emed.2026.1001385
Publication Date: 2026-03-04
Author(s): Luca Fiorillo
Primary Topic: Artificial Intelligence in Healthcare and Education
Overview
The section discusses the dual role of large language models (LLMs), such as ChatGPT, in scientific writing, particularly in the biomedical field. While these models can enhance clarity and efficiency in drafting manuscripts, they also pose significant risks, notably the generation of fabricated references. Research indicates that a staggering 69% of references in ChatGPT’s medical queries are false, with only 7% of AI-generated medical articles containing accurate citations. This prevalence of fictitious citations undermines research integrity, skews citation metrics, and erodes trust in scientific literature. To combat this issue, journals are implementing policies that mandate disclosure of AI usage and human verification of references, yet the challenge of detecting AI-related misinformation persists.
The conclusion emphasizes the urgent need for the scientific community to address the risks associated with AI-generated content proactively. It advocates for technological advancements in reference verification and AI detection, alongside a cultural shift in manuscript writing and review practices. All stakeholders—authors, reviewers, editors, publishers, and readers—must exercise heightened diligence, adhering to fundamental principles of citation verification. While the integration of AI tools can enhance scientific writing, it is crucial to maintain human oversight and critical thinking to preserve the integrity of biomedical research. The section underscores that factual accuracy is essential for maintaining trust in science, and collective efforts are necessary to harness the benefits of AI while mitigating its potential to propagate misinformation.
Introduction
The introduction of artificial intelligence (AI)-assisted writing tools, particularly large language models (LLMs), has generated significant interest and controversy within the academic community, especially in the biomedical sciences where precise communication of data is critical. Advocates suggest that these tools can enhance the writing process by improving clarity, minimizing biases, and identifying analytical errors that authors may overlook. When utilized responsibly, AI writing aids have the potential to help structure complex arguments and increase the precision of scientific manuscripts.
However, concerns have arisen regarding the integrity of AI-generated texts, particularly the issue of fabricated references. Instances have been reported where manuscripts produced with AI assistance include non-existent sources, undermining the credibility of scientific publications. This issue is particularly alarming in the medical literature, where reliable citations are essential for supporting new research. The presence of fictitious references not only jeopardizes the validity of individual papers but also poses a risk of propagating false information that could influence future research and clinical decisions. The subsequent sections of the paper will explore the phenomenon of AI-related reference fabrication, provide illustrative examples, and discuss the broader implications for the biomedical research community.
Discussion
The discussion highlights the significant issue of “hallucinated references” generated by large language models (LLMs) like ChatGPT, which produce seemingly credible citations that are often entirely fabricated. Recent studies, including those by Gravel et al. and Bhattacharyya et al., reveal that a substantial proportion of references generated by these models are either completely invented or contain corrupted metadata, with fabricated citations appearing in nearly 70% of cases in some assessments. This phenomenon poses serious risks to academic integrity, as it can mislead researchers, contaminate systematic reviews, and ultimately distort clinical guidelines and policy decisions. The authors emphasize the need for rigorous verification of AI-generated outputs to prevent the propagation of misinformation within the scientific literature.
To address the challenges posed by fabricated references, the authors propose a taxonomy categorizing the types of reference fabrication into three types: fully fabricated references, authentic references with corrupted metadata, and chimeric references that mix elements from real citations. They advocate for the implementation of technological solutions, such as automated citation verification tools, alongside cultural shifts in the scientific community that prioritize integrity and verification. The discussion underscores the importance of educating researchers about the risks associated with AI-generated content and the necessity of maintaining vigilance in the peer review process to uphold the reliability of scientific communication.