DOI: https://doi.org/10.1109/taslpro.2026.3680709
تاريخ النشر: 2026-01-01
المؤلف: Seyed Mahed Mousavi وآخرون
الموضوع الرئيسي: نمذجة الموضوعات
نظرة عامة
تستكشف هذه الورقة البحثية موثوقية نماذج اللغة الكبيرة (LLMs) كمستودعات للمعرفة الواقعية، مع التركيز على أدائها في الرد على الأسئلة الواقعية الحساسة للوقت. تقيم الدراسة أربعة وعشرين نموذجًا من أحدث نماذج LLM، وتقيّم دقتها واتساقها عند مواجهة الاضطرابات في المطالبات. تكشف النتائج أن حتى أحدث النماذج تنتج بشكل متكرر ردودًا قديمة أو غير صحيحة وتظهر حساسية كبيرة للتغييرات الطفيفة في صياغة الأسئلة، مما يؤدي إلى مخرجات غير متسقة.
لمعالجة هذه التحديات، يقترح المؤلفون “التدريب الدقيق المدرك للكيانات” (ENAF)، وهو نهج عصبي رمزي ناعم مصمم لتعزيز التمثيل المنظم للكيانات أثناء التدريب الدقيق للنموذج. يهدف هذا الأسلوب إلى تقليل عدم الاتساق وتحسين استقرار الردود تحت مطالبات متغيرة. تنتقد الورقة أيضًا طرق التدريب الدقيق التقليدية وتحرير المعرفة، مشيرة إلى قيودها في قابلية التوسع وميولها لإدخال أنماط فشل مميزة، مثل الإجابات العامة والهلاوس. بشكل عام، تؤكد الأبحاث على الحاجة إلى منهجيات تدريب قوية وآليات تحديث ديناميكية لتعزيز موثوقية نماذج LLM في التطبيقات المعتمدة على المعرفة، بينما تقدم أيضًا إطار عمل DyKnow للتقييم الديناميكي لأداء LLM على مر الزمن.
مقدمة
تناقش مقدمة الورقة الدور المتطور لنماذج اللغة الكبيرة (LLMs) كمصادر بارزة للمعرفة الواقعية، مما يضعها جنبًا إلى جنب مع مستودعات المعرفة التقليدية مثل قواعد المعرفة ومحركات البحث. تبرز الاعتماد على نماذج LLM على لقطات بيانات متعددة تم جمعها على مر الزمن، والتي تحتوي على معلومات واقعية ممثلة كأزواج (مثل، \( F_i = (\text{subject}, \text{property}, \text{attribute}) \)). على الرغم من قدراتها، تواجه نماذج LLM تحديات كبيرة فيما يتعلق بالموثوقية، خاصة من حيث الدقة والاتساق. تتطلب الطبيعة الديناميكية للمعرفة الواقعية أن تحافظ مستودعات المعرفة على معلومات محدثة ومتسقة لتجنب تضليل المستخدمين.
يؤطر المؤلفون أبحاثهم حول سؤالين رئيسيين: (1) تقييم موثوقية نماذج LLM الحديثة كمستودعات للحقائق الحساسة للوقت، و(2) استكشاف طرق لتعزيز موثوقيتها. يقدمون DyKnow، وهو إطار عمل للتقييم الديناميكي يقوم بتحديث نقاط البيانات باستمرار باستخدام معلومات في الوقت الحقيقي من ويكيداتا، مما يسمح بالتقييم المستمر لمعرفه نماذج LLM. تقيم الدراسة دقة واتساق أربعة وعشرين نموذجًا من LLM من خلال اضطرابات مختلفة لمطالبات الأسئلة. علاوة على ذلك، يقترح المؤلفون عدة طرق لتحسين موثوقية LLM، بما في ذلك آليات تحرير المعرفة ونهج جديد يسمى التدريب الدقيق المدرك للكيانات (ENAF)، والذي يهدف إلى إنشاء تمثيلات منظمة للكيانات لتقليل عدم الاتساق. من المتوقع أن تمتد النتائج إلى ما هو أبعد من نماذج LLM المعتمدة على النص، مما يؤثر على الهياكل المعتمدة على الصوت ومتعددة الوسائط أيضًا.
طرق
تناقش هذه القسم طرقًا حديثة تهدف إلى تعزيز أداء نماذج اللغة الكبيرة (LLMs) في توليد ردود واقعية دقيقة، مع التركيز بشكل خاص على تحرير المعرفة وتوليد معزز بالاسترجاع (RAG). تسمح تقنيات تحرير المعرفة بإجراء تعديلات مستهدفة على الحقائق داخل النموذج دون إعادة تدريب كاملة، لكنها تعتمد بشكل أساسي على مجموعات بيانات اصطناعية، مما يحد من فعاليتها في التطبيقات الواقعية. تواجه هذه الطرق تحديات في الحفاظ على استقرار النموذج، مما يؤدي غالبًا إلى أخطاء غير مقصودة وتدهور الأداء في المهام غير ذات الصلة. من ناحية أخرى، يتضمن RAG مصادر المعرفة الخارجية أثناء الاستدلال، بهدف معالجة المعلومات القديمة بشكل ديناميكي. ومع ذلك، فإنه يقدم أيضًا تحديات، مثل الاعتماد على جودة بيانات الاسترجاع والاحتمالية لوجود تناقضات بين المعلومات المسترجعة والمعلومات المدربة مسبقًا.
تتوسع قسم الطرق في تقنيات تحرير المعرفة المحددة، بما في ذلك ROME، الذي يحسن تحديثات المعلمات من خلال طرق المربعات الصغرى، وMEMIT، الذي يسمح بإجراء تعديلات متزامنة عبر الطبقات. تمثل SERAC وIKE طرقًا تحافظ على المعلمات، حيث تستخدم SERAC ذاكرة خارجية لتخزين حقائق جديدة وتستخدم IKE التعلم في السياق. يقارن التقييم بين هذه الطرق التحريرية وRAG، الذي يسترجع مستندات ذات صلة من مصادر مثل ويكيبيديا. بالإضافة إلى ذلك، تستكشف الدراسة نهج RAG الضوضائي، حيث يتم إدخال مستندات غير ذات صلة لتعزيز جودة الاسترجاع. كما يتم تضمين طريقة أساسية تستخدم التدريب الدقيق المعتمد على LoRA، الذي يحدث فقط معلمات التكيف منخفضة الرتبة دون تغيير النموذج بالكامل أو الاعتماد على الاسترجاع الخارجي. يتم تفصيل عملية التدريب، بما في ذلك معلمات فرعية محددة وإعدادات العصور، كما هو موضح في الجدول II.
نتائج
تكشف النتائج من سؤال البحث 1 (RQ1) بشأن تقييم ردود النموذج عن نتيجتين رئيسيتين. أولاً، هناك حدوث متسق لردود قديمة وغير صحيحة عبر جميع النماذج التي تم تقييمها. ثانيًا، يظهر عملية توليد الردود حساسية عالية للتغيرات الطفيفة في المطالبات، مما يؤدي إلى مخرجات غير متسقة. تؤكد هذه النتائج على ضرورة تطوير منهجيات تدريب أكثر قوة وآليات تحديث تهدف إلى تعزيز التمثيل الداخلي للمعرفة في هذه النماذج، مما يحسن موثوقيتها العامة.
مناقشة
في هذا القسم، يقيم المؤلفون موثوقية نماذج اللغة الكبيرة (LLMs) في التعامل مع المعرفة الحساسة للوقت، كاشفين عن قصور كبير في قدرتها على اكتشاف المعلومات القديمة. بناءً على الأعمال السابقة، يقدمون DyKnow، وهو إطار عمل للتقييم الديناميكي الذي يستخدم بيانات في الوقت الحقيقي من ويكيداتا لتقييم نماذج LLM باستمرار، مما يقلل من مخاطر المعرفة القديمة وتلوث البيانات. يسمح الإطار بتقييم مخرجات LLM مقابل أحدث قيم السمات، مصنفًا الردود على أنها صحيحة أو قديمة أو غير ذات صلة. يركز التقييم على الكيانات ذات التردد العالي لضمان تقييمات موثوقة، تغطي 130 حقيقة حساسة للوقت عبر فئات مختلفة، بما في ذلك الدول والرياضيين والمنظمات.
تشير النتائج إلى أن حتى أفضل النماذج أداءً، مثل GPT-4 وLlama-3، تظهر معدلات كبيرة من الردود القديمة وغير ذات الصلة، حيث يظهر GPT-4 نسبة 20% من هذه الأخطاء. كما يقيم المؤلفون اتساق مخرجات النموذج تحت اضطرابات مختلفة، ويجدون أن النماذج الأحدث تظهر اتساقًا محسّنًا، خاصةً تلك التي تم ضبطها على التعليمات مثل ChatGPT وGPT-4. ومع ذلك، تبرز النتائج العامة الحاجة الملحة إلى تعزيز موثوقية نماذج LLM، مما يحفز استكشاف طرق متنوعة، بما في ذلك تحرير المعرفة وتوليد معزز بالاسترجاع (RAG)، بالإضافة إلى النهج المقترح للتدريب الدقيق المدرك للكيانات (ENAF). يهدف ENAF إلى دمج تمثيلات الكيانات المنظمة في عملية التدريب، مما يعزز كل من دقة واتساق مخرجات LLM من خلال معالجة المعرفة المجزأة التي غالبًا ما تُلاحظ في طرق التدريب التقليدية.
DOI: https://doi.org/10.1109/taslpro.2026.3680709
Publication Date: 2026-01-01
Author(s): Seyed Mahed Mousavi et al.
Primary Topic: Topic Modeling
Overview
This research paper investigates the reliability of Large Language Models (LLMs) as repositories of factual knowledge, focusing on their performance in responding to time-sensitive factual questions. The study evaluates twenty-four state-of-the-art LLMs, assessing their accuracy and consistency when faced with perturbations in prompts. The findings reveal that even the latest models frequently produce outdated or incorrect responses and exhibit significant sensitivity to minor changes in question phrasing, leading to inconsistent outputs.
To address these challenges, the authors propose “ENtity-Aware Fine-tuning” (ENAF), a soft neurosymbolic approach designed to enhance the structured representation of entities during model fine-tuning. This method aims to reduce inconsistencies and improve response stability under varying prompts. The paper also critiques conventional fine-tuning and knowledge editing methods, highlighting their limitations in scalability and their tendency to introduce distinct failure modes, such as generic answers and hallucinations. Overall, the research emphasizes the need for robust training methodologies and dynamic updating mechanisms to enhance the reliability of LLMs in knowledge-intensive applications, while also introducing the DyKnow framework for dynamic benchmarking of LLM performance over time.
Introduction
The introduction of the paper discusses the evolving role of Large Language Models (LLMs) as prominent sources of factual knowledge, positioning them alongside traditional knowledge repositories such as knowledge bases and search engines. It highlights the reliance of LLMs on multiple data snapshots collected over time, which contain factual information represented as triplets (e.g., \( F_i = (\text{subject}, \text{property}, \text{attribute}) \)). Despite their capabilities, LLMs face significant challenges regarding reliability, particularly in terms of accuracy and consistency. The dynamic nature of factual knowledge necessitates that knowledge repositories maintain up-to-date and coherent information to avoid misleading users.
The authors frame their research around two key questions: (1) Assessing the reliability of state-of-the-art LLMs as repositories of time-sensitive facts, and (2) Exploring methods to enhance their reliability. They introduce DyKnow, a dynamic benchmarking framework that continuously updates data points using real-time information from Wikidata, allowing for ongoing assessments of LLMs’ knowledge. The study evaluates the accuracy and consistency of twenty-four LLMs through various perturbations of question prompts. Furthermore, the authors propose several methods to improve LLM reliability, including knowledge editing mechanisms and a novel approach called ENtity-Aware Fine-tuning (ENAF), which aims to create structured representations of entities to reduce inconsistencies. The findings are expected to extend beyond text-based LLMs, impacting speech-driven and multimodal architectures as well.
Methods
The section discusses state-of-the-art methods aimed at enhancing the performance of large language models (LLMs) in generating accurate factual responses, specifically focusing on knowledge editing and Retrieval-Augmented Generation (RAG). Knowledge editing techniques allow for targeted modifications of facts within the model without full retraining, yet they primarily rely on synthetic datasets, which limits their effectiveness in real-world applications. These methods face challenges in maintaining model stability, often leading to unintended errors and performance degradation on unrelated tasks. Conversely, RAG incorporates external knowledge sources during inference, aiming to address outdated information dynamically. However, it also presents challenges, such as dependency on the quality of retrieval data and potential inconsistencies between retrieved and pre-trained information.
The methods section elaborates on specific knowledge editing techniques, including ROME, which optimizes parameter updates through least-squares methods, and MEMIT, which allows for simultaneous edits across layers. SERAC and IKE represent parameter-preserving approaches, with SERAC utilizing external memory for storing new facts and IKE employing in-context learning. The evaluation compares these editing methods with RAG, which retrieves relevant documents from sources like Wikipedia. Additionally, the study explores a noisy RAG approach, where irrelevant documents are introduced to potentially enhance retrieval quality. A baseline method using LoRA-based fine-tuning is also included, which updates only low-rank adaptation parameters without altering the entire model or relying on external retrieval. The training process is detailed, including specific hyperparameters and epoch settings, as outlined in Table II.
Results
The results from Research Question 1 (RQ1) regarding the assessment of model responses reveal two key findings. First, there is a consistent occurrence of outdated and incorrect responses across all evaluated models. Second, the response generation process exhibits high sensitivity to minor variations in prompts, leading to inconsistent outputs. These findings underscore the necessity for the development of more robust training methodologies and updating mechanisms aimed at enhancing the internal knowledge representation of these models, thereby improving their overall reliability.
Discussion
In this section, the authors assess the reliability of large language models (LLMs) in handling time-sensitive knowledge, revealing significant shortcomings in their ability to detect outdated information. Building on previous work, they introduce DyKnow, a dynamic benchmarking framework that utilizes real-time data from Wikidata to continuously evaluate LLMs, thereby mitigating the risks of outdated knowledge and data contamination. The framework allows for the assessment of LLM outputs against the most current attribute values, categorizing responses as correct, outdated, or irrelevant. The evaluation focuses on high-frequency entities to ensure reliable assessments, covering 130 time-sensitive facts across various categories, including countries, athletes, and organizations.
The results indicate that even the best-performing models, such as GPT-4 and Llama-3, exhibit substantial rates of outdated and irrelevant responses, with GPT-4 showing a 20% incidence of such inaccuracies. The authors also evaluate the consistency of model outputs under different perturbations, finding that newer models demonstrate improved consistency, particularly instruction-tuned ones like ChatGPT and GPT-4. However, the overall findings highlight a critical need for enhanced reliability in LLMs, prompting the exploration of various methods, including knowledge editing and Retrieval-Augmented Generation (RAG), as well as the proposed ENtity-Aware Fine-tuning (ENAF) approach. ENAF aims to integrate structured entity representations into the training process, enhancing both the accuracy and consistency of LLM outputs by addressing the fragmented knowledge often observed in traditional training methods.