DOI: https://doi.org/10.1007/s10838-025-09735-7
تاريخ النشر: 2025-11-26
المؤلف: Louis Vervoort وآخرون
الموضوع الرئيسي: فلسفة وتاريخ العلوم
نظرة عامة
يقترح هذا القسم من ورقة البحث اختبارًا جديدًا للتفكير السببي المجرد في الذكاء الاصطناعي (AI)، مستندًا إلى رؤى فلسفية، وخاصة من مخططات الخلايا العصبية لد. لويس. يظهر المؤلفون هذا الاختبار باستخدام نماذج اللغة الكبيرة المتقدمة (LLMs) مثل ChatGPT وDeepSeek وGemini، التي تظهر القدرة على تحديد العلاقات السببية في سيناريوهات معقدة غالبًا ما يتم مناقشتها في الأدبيات الأكاديمية. لتسهيل تقييم هذه النماذج، يقدم المؤلفون تعريفًا أوسع للسببية قابلًا للتطبيق على مخططات الخلايا العصبية، متحدين الفكرة السائدة بأن مثل هذه التعريفات غامضة.
تؤكد الورقة على أهمية التفكير السببي في تطوير الذكاء الاصطناعي، حيث تفترض أنه قد يكون حاسمًا لتحقيق الذكاء الاصطناعي العام (AGI). يدعو المؤلفون إلى نهج متعدد التخصصات يدمج الخبرة الفلسفية مع أبحاث الذكاء الاصطناعي، مؤكدين على الحاجة إلى معايير موثوقة لتقييم الاستنتاجات السببية التي ينتجها الذكاء الاصطناعي. يجادلون بأنه مع تقدم قدرات الذكاء الاصطناعي، يجب على الفلاسفة الانخراط في بناء تعريفات شاملة للسببية للحفاظ على السلطة الفكرية وضمان موثوقية أنظمة الذكاء الاصطناعي. تشير النتائج إلى أن الاستفسارات الفلسفية المستقبلية يمكن أن تستفيد من التعاون مع الذكاء الاصطناعي، خاصة في فهم الديناميات السببية المعقدة.
النتائج
تناقش قسم النتائج تقييم قدرات التفكير السببي في نماذج اللغة الكبيرة (LLMs)، وخاصة ChatGPT، من خلال اختبارات مختلفة أجراها علماء الكمبيوتر. تكشف التقييمات عن مجموعة واسعة من الآراء حول قدرات ChatGPT، حيث يعبر بعض الباحثين عن تفاؤلهم بشأن إمكانياته كأداة للتفكير السببي (Kiciman et al. 2023)، بينما يكون الآخرون أكثر انتقادًا، مجادلين بأنه يواجه صعوبة في تحديد الأسباب بشكل ملموس ولكنه يمكن أن يقدم تفسيرات سببية معقولة (Gao et al. 2023). من النتائج المهمة أن LLMs، بما في ذلك ChatGPT، تؤدي بشكل ضعيف في مهام التفكير السببي المجرد، وغالبًا ما تحقق نتائج لا أفضل من التخمين العشوائي، خاصة عند اختبارها مع مجموعة بيانات مرجعية مصممة لتقييم قدرتها على استخراج الرسوم البيانية السببية من الارتباطات بين المتغيرات (Jin et al. 2023).
تشمل الطريقة المقترحة لاختبار التفكير السببي المجرد تقديم LLMs بتمثيلات نصية لمخططات الخلايا العصبية، التي تصور التفاعلات السببية بين المتغيرات. تهدف الاختبارات إلى تحديد ما إذا كان الذكاء الاصطناعي يمكنه الإجابة بدقة على أسئلة تتعلق بأسباب أحداث معينة، باستخدام تفسير مضاد للسببية كإطار عمل. تشير النتائج إلى أنه بينما يمكن لـ LLMs تحديد الأسباب القريبة بسهولة نسبية، فإنها تواجه صعوبة في العلاقات السببية الأكثر تعقيدًا، مما يبرز القيود في قدرات تفكيرها. تؤكد الدراسة على الحاجة إلى نهج منهجي لاختبار التفكير السببي في الذكاء الاصطناعي، مقترحة أن البحث متعدد التخصصات يمكن أن يعزز الفهم ويحسن أداء النماذج في هذا المجال.
المناقشة
في قسم المناقشة من ورقة البحث، يقوم المؤلفون بتحليل العلاقات السببية داخل مخططات الخلايا العصبية، مع التركيز بشكل خاص على إطلاق وعدم إطلاق الخلايا العصبية بمرور الوقت. يقدمون نهجًا منهجيًا لاستنتاج ما إذا كان حدث (يشار إليه بـ $E$) يحدث بناءً على حدوث أحداث سابقة ($A$، $B$، $C$، إلخ) في أوقات محددة ($t_1$، $t_2$، $t_3$، إلخ). يكشف التحليل أن حدوث $E$ يعتمد على وجود أو عدم وجود أحداث أخرى، مع وجود قواعد محددة تحكم هذه العلاقات. على سبيل المثال، إذا حدث كل من $A$ و $C$ في $t_1$، فإن $D$ يحدث في $t_2$، مما يسمح لـ $E$ بالحدوث في $t_3$، بشرط ألا يحدث $B$ في $t_2$.
كما يقيم المؤلفون أداء ChatGPT(4) في الإجابة على الأسئلة السببية بناءً على هذه المخططات. يلاحظون تحسنًا كبيرًا في قدرته على تحديد العلاقات السببية الصحيحة مقارنة بالإصدارات السابقة، مع معدل تحديد صحيح يبلغ 6 من 9 للمخططات المختبرة. ومع ذلك، يحذرون من أن تعقيد بعض المخططات يمكن أن يؤدي إلى انهيار في التفكير السببي، مما يشير إلى حد لقدرات النموذج. يختتم القسم بتعريف تحليلي مقترح للسببية مصمم لمخططات الخلايا العصبية، والذي يؤكد على ضرورة الحفاظ على شروط حظر محددة عند تقييم العلاقات السببية. يهدف هذا التعريف إلى توفير إطار عمل قوي لفهم السبب والنتيجة في سياق المخططات التي تم مناقشتها.
DOI: https://doi.org/10.1007/s10838-025-09735-7
Publication Date: 2025-11-26
Author(s): Louis Vervoort et al.
Primary Topic: Philosophy and History of Science
Overview
This research paper section proposes a novel test for abstract causal reasoning in artificial intelligence (AI), drawing on philosophical insights, particularly from D. Lewis’s neuron diagrams. The authors demonstrate this test using advanced Large Language Models (LLMs) such as ChatGPT, DeepSeek, and Gemini, which exhibit the ability to identify causal relationships in complex scenarios that are often debated in academic literature. To facilitate the evaluation of these models, the authors introduce a broader definition of causation applicable to neuron diagrams, challenging the prevailing notion that such definitions are elusive.
The paper underscores the significance of causal reasoning in AI development, positing that it may be crucial for achieving artificial general intelligence (AGI). The authors advocate for a cross-disciplinary approach that integrates philosophical expertise with AI research, emphasizing the need for reliable standards to assess AI-generated causal conclusions. They argue that as AI capabilities advance, philosophers must engage in constructing comprehensive definitions of causation to maintain intellectual authority and ensure the trustworthiness of AI systems. The findings suggest that future philosophical inquiries could benefit from collaboration with AI, particularly in understanding complex causal dynamics.
Results
The results section discusses the evaluation of causal reasoning capabilities in large language models (LLMs), particularly ChatGPT, through various tests conducted by computer scientists. The assessments reveal a wide range of opinions on ChatGPT’s abilities, with some researchers expressing optimism about its potential as a causal reasoning tool (Kiciman et al. 2023), while others are more critical, arguing that it struggles with concrete causal identification but can provide plausible causal explanations (Gao et al. 2023). A significant finding is that LLMs, including ChatGPT, perform poorly on abstract causal reasoning tasks, often yielding results no better than random guessing, particularly when tested with a benchmark dataset designed to evaluate their ability to extract causal graphs from correlations among variables (Jin et al. 2023).
The proposed method for testing abstract causal reasoning involves presenting LLMs with textual representations of neuron diagrams, which depict causal interactions among variables. The tests aim to determine whether the AI can accurately answer questions regarding the causes of specific events, utilizing a counterfactual interpretation of causation as a framework. The results indicate that while LLMs can identify proximate causes relatively easily, they struggle with more complex causal relationships, highlighting limitations in their reasoning capabilities. The study emphasizes the need for a systematic approach to testing causal reasoning in AI, suggesting that further interdisciplinary research could enhance understanding and improve model performance in this area.
Discussion
In the discussion section of the research paper, the authors analyze the causal relationships within neuron diagrams, particularly focusing on the firing and non-firing of neurons over time. They present a systematic approach to deducing whether an event (denoted as $E$) occurs based on the occurrence of preceding events ($A$, $B$, $C$, etc.) at specified times ($t_1$, $t_2$, $t_3$, etc.). The analysis reveals that the occurrence of $E$ is contingent upon the presence or absence of other events, with specific rules governing these relationships. For instance, if both $A$ and $C$ occur at $t_1$, then $D$ occurs at $t_2$, which allows $E$ to occur at $t_3$, provided that $B$ does not occur at $t_2$.
The authors also evaluate the performance of ChatGPT(4) in answering causal questions based on these diagrams. They note a significant improvement in its ability to identify correct causal relationships compared to previous iterations, with a correct identification rate of 6 out of 9 for the diagrams tested. However, they caution that the complexity of certain diagrams can lead to a breakdown in causal reasoning, indicating a limit to the model’s capabilities. The section concludes with a proposed analytic definition of causation tailored for neuron diagrams, which emphasizes the necessity of maintaining specific blocking conditions when assessing causal relationships. This definition aims to provide a robust framework for understanding causation in the context of the diagrams discussed.