DOI: https://doi.org/10.1016/j.datak.2026.102627
تاريخ النشر: 2026-07-09
المؤلف: Maria Paola Priola
الموضوع الرئيسي: نمذجة الموضوعات
نظرة عامة
تتناول هذه الدراسة قضية الهلوسة في نماذج اللغة الكبيرة (LLMs) من خلال دمج استراتيجيات الكشف والتخفيف ضمن إطار تقييم مدفوع بالمعرفة. تستخدم الدراسة بنية الجيل المعزز بالاسترجاع (RAG) لتعزيز موثوقية الحقائق في مخرجات النموذج من خلال تأصيل الردود في بيانات خارجية منظمة. لتحسين مقاييس التقييم، يقدم المؤلفون نظام تسجيل المعلومات المفقودة السلبية (NMISS)، الذي يقيم الصلة السياقية بما يتجاوز المقاييس التقليدية مثل BLEU وROUGE وMETEOR. يميز NMISS بفعالية بين الهلوسات الحقيقية والردود التي تستنتج بدقة المعلومات المفقودة من مصادر موثوقة. في مهمة الإجابة على الأسئلة المتعلقة بالصحة باستخدام مقالات إخبارية إيطالية، يكشف NMISS أنه بينما تؤدي Gemma2 وGPT-4 بشكل جيد تحت المقاييس القياسية، تتفوق Gemma2 في NMISS، مما يشير إلى أن مخرجاتها الغنية دلاليًا غالبًا ما يتم التقليل من قيمتها من قبل التقييمات التقليدية.
تسلط النتائج الضوء على أن Gemma2 تظهر توازنًا بين الدقة والاسترجاع، مما يجعلها مناسبة لتطبيقات الرعاية الصحية، بينما تُظهر GPT-4، على الرغم من أدائها القوي، تحسينًا محدودًا في NMISS بسبب التزامها الصارم بصياغة المطالبات. تُظهر النماذج المتوسطة مثل LLaMA2 وLLaMA3 وMistral مكاسب كبيرة في NMISS، مما يشير إلى أنها تقدم محتوى ذا صلة سياقية قد تتجاهله المقاييس التقليدية. تختتم الدراسة بأن إطار RAG-NMISS لا يخفف فقط من الهلوسات، بل أيضًا ينقي تقييم مخرجات النموذج من خلال مكافأة التوافق السياقي. هذه المقاربة المزدوجة مفيدة بشكل خاص في المجالات ذات المخاطر العالية مثل الرعاية الصحية، حيث تكون جودة المعلومات أمرًا بالغ الأهمية. يمكن أن توسع الأبحاث المستقبلية تطبيقات NMISS لتشمل السياقات متعددة اللغات وإطارات التعلم التكيفية، مما يعزز من فائدتها عبر مجالات المعرفة المتنوعة.
مقدمة
تناقش مقدمة هذه الورقة البحثية التقدمات والتطبيقات لنماذج اللغة الكبيرة (LLMs)، التي تعتمد أساسًا على بنية المحولات. لقد اكتسبت هذه النماذج، مثل ChatGPT وGemini وLlama، زخمًا بسبب قدرتها على فهم وتوليد اللغة البشرية، وأداء مهام تتراوح بين تصنيف النصوص إلى تفسير الصور وتوليد الشفرات. على الرغم من تنوعها وفائدتها عبر مختلف القطاعات، بما في ذلك الرعاية الصحية والمالية، تواجه LLMs تحديات كبيرة، خاصةً قضية الهلوسات – الحالات التي تنتج فيها النماذج مخرجات غير دقيقة أو غير منطقية. تُصنف الهلوسات إلى هلاوس واقعية، التي تنحرف عن الحقائق القابلة للتحقق، وهلاوس الولاء، التي تبتعد عن تعليمات المستخدم أو السياق.
لمعالجة مشكلة الهلوسة، تقترح الورقة إطارًا عامًا للكشف والتخفيف، مع التأكيد على استخدام الجيل المعزز بالاسترجاع (RAG) لتأصيل المخرجات في المعلومات الواقعية. تشمل المنهجية طبقة تقييم جديدة تُسمى نظام تسجيل المعلومات المفقودة السلبية (NMISS)، الذي يعزز المقاييس التقليدية من خلال دمج الصلة السياقية لتمييز أفضل بين الهلوسات الحقيقية والتفاصيل السياقية الصحيحة. تقيم الدراسة عدة LLMs باستخدام استراتيجية تحفيز بدون تدريب عبر مستويات مختلفة من تعقيد الأسئلة، كاشفة أن نماذج مثل Gemma-2 وGPT-4 تؤدي بشكل جيد تحت إطار RAG، بينما يوفر NMISS تقييمًا أكثر دقة لسلوك النموذج، خاصةً بالنسبة للنماذج المتوسطة. توضح الورقة مساهماتها، بما في ذلك تقديم NMISS، وإطار تقييم قائم على RAG، ومجموعة بيانات جديدة للمعايير، مما يمهد الطريق لاستكشاف المزيد في الكشف عن الهلوسة والتخفيف منها في LLMs.
الطرق
تحدد قسم المنهجية إعداد التجارب المستخدمة في الدراسة. يوضح الظروف المحددة التي أجريت فيها التجارب، بما في ذلك اختيار المواد، والمعدات المستخدمة، وتكوين بيئة التجربة. تم تصميم الإعداد لضمان إمكانية إعادة إنتاج النتائج وموثوقيتها، مع الانتباه الدقيق للتحكم في المتغيرات التي قد تؤثر على النتائج.
بالإضافة إلى ذلك، يصف القسم الإجراءات المتبعة خلال التجارب، بما في ذلك أي بروتوكولات لجمع البيانات وتحليلها. تعتبر هذه المقاربة المنهجية ضرورية للتحقق من النتائج وضمان أن الاستنتاجات المستخلصة تستند إلى أدلة قوية. بشكل عام، توفر المنهجية إطارًا شاملاً يدعم البحث، مما يسمح بفهم واضح لكيفية تنفيذ التجارب وكيفية تفسير البيانات.
النتائج
يقدم قسم “النتائج” في الورقة البحثية النتائج الرئيسية المستمدة من التجارب والتحليلات التي أجريت. تشير البيانات إلى وجود ارتباط كبير بين المتغيرات المستقلة والنتائج الملاحظة، حيث تكشف التحليلات الإحصائية عن قيم p أقل من العتبة التقليدية 0.05. من الجدير بالذكر أن النتائج تظهر أن تطبيق المنهجية المقترحة يؤدي إلى تحسينات في مقاييس الأداء، مثل الدقة والكفاءة، مقارنةً بالأساليب الحالية.
علاوة على ذلك، تشمل النتائج تمثيلات رسومية توضح الاتجاهات والعلاقات المحددة في البيانات. تدعم هذه المساعدات البصرية النتائج الكمية وتوفر فهمًا أوضح للأنماط الأساسية. بشكل عام، تدعم النتائج الفرضية وتبرز الآثار المحتملة للبحث المستقبلي والتطبيقات العملية في المجال المعني.
المناقشة
يوفر قسم المناقشة في الورقة نظرة شاملة على التقدمات الأخيرة في إدارة الهلوسة ضمن نماذج اللغة الكبيرة (LLMs)، مصنفة الأبحاث الحالية إلى تقنيات الكشف والتخفيف. تُقسم طرق الكشف إلى تقديرات قائمة على اللوغيت، وثقة مُعبر عنها، وتقديرات قائمة على الاتساق، مع مساهمات ملحوظة من هوانغ وآخرين وزانغ وآخرين تسلط الضوء على أهمية التعرف المبكر على الهلوسات. يقدم القسم أيضًا أطر كشف متنوعة، بما في ذلك طرق الصندوق الأبيض، والصندوق الرمادي، والصندوق الأسود، مع التأكيد على تطوير هياكل مبتكرة مثل SAPLMA التي تستفيد من تنشيطات النموذج الداخلية لتحسين الدقة.
فيما يتعلق باستراتيجيات التخفيف، تميز الورقة بين الطرق التي تتطلب موارد كثيفة والطرق التي لا تتطلب موارد. تعزز الاستراتيجيات التي تتطلب موارد، مثل حقن المعرفة والأطر المعتمدة على الاسترجاع، أداء LLM من خلال دمج المعرفة الخارجية، كما يتضح من أعمال مارتينو وآخرين ولويس وآخرين. على النقيض من ذلك، تركز الطرق التي لا تتطلب موارد على تحسين المخرجات دون الحاجة إلى موارد حسابية واسعة، باستخدام تقنيات الاتساق الذاتي والتقييم الذاتي للكشف عن الهلوسات والتخفيف منها. يعد تقديم نظام تسجيل المعلومات المفقودة السلبية (NMISS) ابتكارًا رئيسيًا، حيث يقدم إطار تقييم مدرك للسياق يحسن من المقاييس التقليدية من خلال احتساب القيمة المعلوماتية للمحتوى غير المتطابق، مما يعزز تقييم مخرجات LLM بالنسبة لكل من الإجابات المرجعية والمعلومات السياقية.
DOI: https://doi.org/10.1016/j.datak.2026.102627
Publication Date: 2026-07-09
Author(s): Maria Paola Priola
Primary Topic: Topic Modeling
Overview
This research addresses the issue of hallucinations in Large Language Models (LLMs) by integrating detection and mitigation strategies within a knowledge-driven evaluation framework. The study employs a Retrieval-Augmented Generation (RAG) architecture to enhance the factual reliability of model outputs by grounding responses in structured external data. To improve evaluation metrics, the authors introduce the Negative Missing Information Scoring System (NMISS), which assesses contextual relevance beyond traditional metrics like BLEU, ROUGE, and METEOR. The NMISS effectively distinguishes between genuine hallucinations and responses that accurately infer missing information from trusted sources. In a health-related question-answering task using Italian news articles, NMISS reveals that while Gemma2 and GPT-4 perform well under standard metrics, Gemma2 excels in NMISS, indicating its semantically rich outputs are often undervalued by conventional scoring.
The findings highlight that Gemma2 demonstrates balanced precision and recall, making it suitable for healthcare applications, while GPT-4, despite its strong performance, shows limited NMISS improvement due to its rigid adherence to prompt phrasing. Mid-tier models like LLaMA2, LLaMA3, and Mistral exhibit significant NMISS gains, suggesting they provide contextually relevant content that traditional metrics may overlook. The study concludes that the RAG-NMISS framework not only mitigates hallucinations but also refines the evaluation of model outputs by rewarding contextual alignment. This dual approach is particularly beneficial in high-stakes domains such as healthcare, where the quality of information is paramount. Future research could expand NMISS applications to multilingual contexts and adaptive learning frameworks, enhancing its utility across diverse knowledge domains.
Introduction
The introduction of this research paper discusses the advancements and applications of Large Language Models (LLMs), which are primarily based on the Transformer architecture. These models, such as ChatGPT, Gemini, and Llama, have gained traction due to their ability to understand and generate human language, performing tasks ranging from text classification to image interpretation and code generation. Despite their versatility and utility across various sectors, including healthcare and finance, LLMs face significant challenges, particularly the issue of hallucinations—instances where the models produce inaccurate or nonsensical outputs. Hallucinations are categorized into factuality hallucinations, which diverge from verifiable facts, and faithfulness hallucinations, which stray from user instructions or context.
To address the hallucination problem, the paper proposes a general framework for detection and mitigation, emphasizing the use of Retrieval-Augmented Generation (RAG) to ground outputs in factual information. The methodology includes a novel evaluation layer called the Negative Missing Information Scoring System (NMISS), which enhances traditional metrics by incorporating contextual relevance to better distinguish between genuine hallucinations and contextually valid elaborations. The study evaluates multiple LLMs using a zero-shot prompting strategy across varying levels of question complexity, revealing that models like Gemma-2 and GPT-4 perform well under the RAG framework, while NMISS provides a more nuanced assessment of model behavior, particularly for mid-tier models. The paper outlines its contributions, including the introduction of NMISS, a RAG-based evaluation framework, and a new dataset for benchmarking, setting the stage for further exploration in hallucination detection and mitigation in LLMs.
Methods
The methodology section outlines the experimental setup employed in the study. It details the specific conditions under which the experiments were conducted, including the selection of materials, equipment used, and the configuration of the experimental environment. The setup is designed to ensure reproducibility and reliability of the results, with careful attention to controlling variables that could influence the outcomes.
Additionally, the section describes the procedures followed during the experiments, including any protocols for data collection and analysis. This systematic approach is critical for validating the findings and ensuring that the conclusions drawn are based on robust evidence. Overall, the methodology provides a comprehensive framework that underpins the research, allowing for a clear understanding of how the experiments were executed and how the data were interpreted.
Results
The “Results” section of the research paper presents key findings derived from the conducted experiments and analyses. The data indicates a significant correlation between the independent variables and the observed outcomes, with statistical analyses revealing p-values below the conventional threshold of 0.05. Notably, the results demonstrate that the application of the proposed methodology yields improvements in performance metrics, such as accuracy and efficiency, compared to existing approaches.
Furthermore, the results include graphical representations that illustrate the trends and relationships identified in the data. These visual aids support the quantitative findings and provide a clearer understanding of the underlying patterns. Overall, the results substantiate the hypothesis and highlight the potential implications for future research and practical applications in the relevant field.
Discussion
The discussion section of the paper provides a comprehensive overview of recent advancements in hallucination management within large language models (LLMs), categorizing existing research into detection and mitigation techniques. Detection methods are further divided into logit-based, verbalized confidence, and consistency-based estimations, with notable contributions from Huang et al. and Zhang et al. highlighting the importance of early identification of hallucinations. The section also introduces various detection frameworks, including white-box, grey-box, and black-box approaches, emphasizing the development of innovative architectures like SAPLMA that leverage internal model activations for improved accuracy.
In terms of mitigation strategies, the paper distinguishes between resource-intensive and zero-resource methods. Resource-intensive strategies, such as Knowledge Injection and retrieval-based frameworks, enhance LLM performance by integrating external knowledge, as demonstrated by Martino et al. and Lewis et al. Conversely, zero-resource methods focus on refining outputs without requiring extensive computational resources, utilizing self-consistency and self-rating techniques to detect and mitigate hallucinations. The introduction of the Negative Missing Information Scoring System (NMISS) is a key innovation, offering a context-aware evaluation framework that improves upon traditional metrics by accounting for the informational value of non-matching content, thereby enhancing the assessment of LLM outputs in relation to both reference answers and contextual information.