DOI: https://doi.org/10.3998/ergo.10324
تاريخ النشر: 2026-04-17
المؤلف: Cameron C. Yetman
الموضوع الرئيسي: الفلسفة والعلوم النظرية
نظرة عامة
تتناول الورقة سؤالًا حاسمًا في فهم نماذج اللغة الكبيرة (LLMs): ما إذا كان سلوكها مدفوعًا بمعالجة المعلومات القائمة على التمثيل مثل الإدراك البيولوجي أو فقط من خلال التذكر وعمليات البحث العشوائية. يطرح المؤلف أن سلوك LLM يتأثر جزئيًا بمعالجة قائمة على التمثيل، مما له آثار كبيرة على المناقشات حول القدرات المعرفية لهذه الأنظمة، بما في ذلك معتقداتها المحتملة ونواياها وفهمها. لدعم هذا الادعاء، توضح الورقة تقنيات عملية للتحقيق في التمثيلات داخل LLMs، مما يضع أساسًا لاستكشاف نظري مستقبلي.
في الخاتمة، يعترف المؤلف بتعقيد LLMs، مشيرًا إلى أن أدائها يمكن أحيانًا أن يُفسر من خلال التذكر القسري، بينما في حالات أخرى، يتماشى بشكل أقرب مع وجود تمثيلات فرعية. تنتقد الورقة الرأي البديل الذي يرى أن LLMs تعمل فقط كجداول بحث، موضحة عدم كفايتها في سيناريوهات معينة. علاوة على ذلك، تؤكد أن الاختبار السلوكي وحده لا يمكن أن يحدد بشكل قاطع الاعتماد على التمثيلات؛ ومع ذلك، يمكن أن تعزز طرق التدخل المستهدفة، مثل الاستقصاء، الثقة في تحديد الحالات الداخلية التي تظهر خصائص المعلومات وقابلية الاستغلال. على الرغم من أن الورقة لا تحدد بشكل منهجي متى ينبغي على LLMs الاعتماد على التمثيلات مقابل آليات أخرى، إلا أنها تؤكد أن وجود تمثيلات قوية في LLMs قد تم إثباته، مما يترك الآثار لمزيد من الاستفسار.
مقدمة
تناقش مقدمة الورقة الأدوار المزدوجة لأنظمة الذكاء الاصطناعي، وخاصة نماذج اللغة الكبيرة (LLMs)، في علم الإدراك: كنماذج للإدراك وكأنظمة معرفية محتملة بنفسها. تبرز النقاش المستمر حول ما إذا كانت LLMs تمتلك حقًا قدرات معرفية أو تحاكي ببساطة المهام المعرفية من خلال وسائل غير تمثيلية، مثل التذكر والبحث العشوائي. أدى هذا الانقسام إلى مواقف متجذرة بين الباحثين، حيث يرى البعض أن LLMs قادرة على العمليات المعرفية بينما يراها الآخرون أدوات إحصائية بحتة.
تهدف الورقة إلى معالجة سؤال أساسي في هذا الخطاب: ما إذا كان سلوك LLM مدفوعًا بمعالجة المعلومات القائمة على التمثيل أو بعمليات غير تمثيلية. تفترض أن التمثيل ضروري لفهم الوظائف المعرفية، حيث إنه يدعم مهام مثل استخدام اللغة والتفكير، حيث أظهرت LLMs كفاءة. يخطط المؤلف لوصف “التمثيل”، وانتقاد تفسير غير تمثيلي شائع لسلوك LLM، واقتراح طرق للتحقيق في تمثيلات LLM. في النهاية، تسعى الورقة إلى إنشاء إطار لفهم LLMs من خلال عدسة تمثيلية، مما يساهم في توافق فلسفي حول دور التمثيلات في علم الإدراك مع البقاء محايدًا بشأن طبيعة ما تمثله LLMs.
نقاش
في هذا القسم، تناقش الورقة مفهوم التمثيل في الأنظمة المعرفية، مع التأكيد على دوره الحاسم في تعديل السلوك استجابةً للمؤثرات البيئية. يحدد المؤلف وصفًا قويًا للتمثيل، مفترضًا أن حالة داخلية \( R \) لنظام \( S \) تمثل ميزة \( z \) إذا كانت تلبي أربعة شروط: (1) يحمل \( R \) معلومات عن \( z \)، (2) يمكن استغلال هذه المعلومات بواسطة \( S \)، (3) يمكّن استغلال هذه المعلومات \( S \) من إظهار سلوك قوي متعلق بـ \( z \)، و(4) يلعب \( R \) دورًا آليًا في هذا السلوك. يجادل المؤلف بأن هذا الإطار ضروري لتجنب عيوب التمثيل الشامل، حيث يمكن أن يُساء تفسير أي ارتباط على أنه تمثيل.
ينتقد القسم أيضًا التعريفات الحالية للتمثيل في تعلم الآلة، وخاصة تلك التي تخلط بين التمثيل والوسائط السببية البسيطة. يقارن المؤلف إطارهم بمعايير هاردينغ (2023) للتمثيل في معالجة اللغة الطبيعية، مبرزًا الاختلافات في العمومية وآثار التخصص في المهام. في النهاية، يؤكد المؤلف أن فهمًا دقيقًا للتمثيل ضروري لشرح سلوك نماذج اللغة الكبيرة (LLMs)، مشيرًا إلى أنه إذا كانت LLMs تمتلك مثل هذه التمثيلات، فإن ذلك سيعزز بشكل كبير فهمنا لعملياتها المعرفية.
DOI: https://doi.org/10.3998/ergo.10324
Publication Date: 2026-04-17
Author(s): Cameron C. Yetman
Primary Topic: Philosophy and Theoretical Science
Overview
The paper addresses a critical question in the understanding of Large Language Models (LLMs): whether their behavior is driven by representation-based information processing akin to biological cognition or solely by memorization and stochastic look-up processes. The author posits that LLM behavior is partially influenced by representation-based processing, which has significant implications for discussions about the cognitive capabilities of these systems, including their potential beliefs, intentions, and understanding. To support this claim, the paper outlines practical techniques for investigating the representations within LLMs, thereby laying a foundation for future theoretical exploration.
In the conclusion, the author acknowledges the complexity of LLMs, noting that their performance can sometimes be explained by brute-force memorization, while in other instances, it aligns more closely with the existence of subpersonal representations. The paper critiques the alternative view that LLMs function merely as look-up tables, demonstrating its inadequacy in certain scenarios. Furthermore, it emphasizes that behavioral testing alone cannot definitively ascertain the reliance on representations; however, targeted intervention methods, such as probing, can enhance confidence in identifying internal states that exhibit properties of information and exploitability. Although the paper does not systematically delineate when LLMs should rely on representations versus other mechanisms, it asserts that the presence of robust representations in LLMs is established, leaving the implications for further inquiry.
Introduction
The introduction of the paper discusses the dual roles of artificial intelligence systems, particularly large language models (LLMs), in cognitive science: as models of cognition and as potential cognitive systems themselves. It highlights the ongoing debate regarding whether LLMs genuinely possess cognitive capacities or merely simulate cognitive tasks through non-representational means, such as memorization and stochastic look-up. This division has led to entrenched positions among researchers, with some viewing LLMs as capable of cognitive processes and others dismissing them as mere statistical tools.
The paper aims to address a fundamental question in this discourse: whether LLM behavior is driven by representation-based information processing or by non-representational processes. It posits that representation is crucial for understanding cognitive functions, as it underpins tasks like language use and reasoning, where LLMs have demonstrated proficiency. The author plans to characterize “representation,” critique a prevalent non-representational explanation of LLM behavior, and propose methods for investigating LLM representations. Ultimately, the paper seeks to establish a framework for understanding LLMs through a representational lens, contributing to a philosophical consensus on the role of representations in cognitive science while remaining neutral on the nature of what LLMs represent.
Discussion
In this section, the paper discusses the concept of representation in cognitive systems, emphasizing its critical role in modulating behavior in response to environmental stimuli. The author delineates a robust characterization of representation, positing that an internal state \( R \) of a system \( S \) represents a feature \( z \) if it satisfies four conditions: (1) \( R \) carries information about \( z \), (2) this information is exploitable by \( S \), (3) exploiting this information enables \( S \) to exhibit robust \( z \)-related behavior, and (4) \( R \) plays a mechanistic role in this behavior. The author argues that this framework is necessary to avoid the pitfalls of panrepresentationalism, where any correlation could be misconstrued as representation.
The section further critiques existing definitions of representation in machine learning, particularly those that conflate representation with mere causal intermediaries. The author contrasts their framework with Harding’s (2023) criteria for representation in natural language processing, highlighting differences in generality and the implications of task-specificity. Ultimately, the author asserts that a nuanced understanding of representation is essential for explaining the behavior of large language models (LLMs), suggesting that if LLMs possess such representations, it would significantly enhance our understanding of their cognitive processes.