DOI: https://doi.org/10.1017/mem.2024.16
تاريخ النشر: 2024-01-01
المؤلف: Andrew Hoskins
الموضوع الرئيسي: الأخلاقيات والآثار الاجتماعية للذكاء الاصطناعي
نظرة عامة
تتناول هذه الورقة التأثير التحويلي للذكاء الاصطناعي التوليدي ونماذج اللغة الكبيرة (LLMs) على مفهوم الذاكرة، مما يبرز لحظة محورية في التفاعل بين الوكالة البشرية وقدرات الآلات. من خلال استخدام بيانات واسعة من الإنترنت المتاحة للجمهور، يسهل الذكاء الاصطناعي التوليدي تمثيلات جديدة للماضي، مما يعيد تشكيل الذاكرة الفردية والجماعية. يقترح المؤلف “طريقة ثالثة للذاكرة”، مشددًا على التعقيدات المعقدة بين البشر والآلات التي تعزز وتهدد الوكالة البشرية في إنشاء وإعادة تفسير الذاكرة.
تم تحديد تطورين هامين في خدمات الذكاء الاصطناعي التوليدي: أولاً، تفصل هذه التقنيات الماضي البشري عن الحاضر، مما ينتج روايات قد لا تتماشى مع الذكريات الفعلية؛ ثانيًا، تعزز ماضيًا “حوارياً” جديدًا، حيث يتم بناء الذاكرة حواريًا في الوقت الحقيقي. تجادل الورقة بأن هذه التطورات تعقد قدرتنا على تمييز التأثير البشري على الذاكرة، مما يتحدى في النهاية المفاهيم التقليدية للتذكر والنسيان حيث تعمل بشكل متزايد خارج موافقة البشر وسيطرتهم.
نقاش
تستكشف قسم النقاش في الورقة التأثير التحويلي للذكاء الاصطناعي التوليدي على الذاكرة البشرية وطبيعة الواقع. مع صعود تقنيات الذكاء الاصطناعي مثل ChatGPT من OpenAI، تتغير العلاقة بين البشر والذاكرة بشكل جذري. يجادل المؤلف بأن الذكاء الاصطناعي ينشئ “أرشيف ظل” للتجارب البشرية، والذي أصبح الآن متاحًا وقابلًا للاستخدام على نطاق عالمي. يؤدي هذا الظاهرة إلى “إيكولوجيا ذاكرة الذكاء الاصطناعي” جديدة، حيث لا يقوم الذكاء الاصطناعي فقط بتوليد استجابات بناءً على بيانات الماضي ولكن أيضًا يشكل السياق الذي يتم فيه إنتاج الذكريات. تؤكد الورقة أن الذاكرة لم تعد كيانًا ثابتًا بل هي عملية نشطة تتأثر بالذكاء الاصطناعي، الذي يمكنه توليد ذكريات لم يتم تشفيرها أو تجربتها من قبل البشر.
يحدد المؤلف ميزتين رئيسيتين في هذا المشهد الجديد للذاكرة: أولاً، يمكن للذكاء الاصطناعي إنتاج ماضٍ لم يوجد أبدًا، مما يفصل الذاكرة البشرية عن عمليات التشفير والاسترجاع التقليدية. ينتج عن ذلك شكل من أشكال الذاكرة غير المألوفة، حيث يعتمد على أنماط البيانات بدلاً من التجارب الحياتية. ثانيًا، يسهل الذكاء الاصطناعي بناء ذاكرة حوارية، مما يسمح بتفاعلات تمزج بين الذكريات التي أنشأها البشر والآلات. يثير هذا مخاوف بشأن الوكالة البشرية، حيث يمكن أن تتجاوز قدرة الذكاء الاصطناعي على إنشاء وإعادة مزج الذكريات السيطرة الفردية على الذكريات الشخصية والجماعية. في النهاية، تفترض الورقة أن الذكاء الاصطناعي التوليدي يمثل “طريقة ثالثة للذاكرة”، حيث تتblur الحدود بين ذاكرة البشر والآلات، مما يؤدي إلى إمكانيات جديدة وتحديات كبيرة في كيفية فهمنا وتفاعلنا مع الماضي.
DOI: https://doi.org/10.1017/mem.2024.16
Publication Date: 2024-01-01
Author(s): Andrew Hoskins
Primary Topic: Ethics and Social Impacts of AI
Overview
This paper examines the transformative impact of generative AI and large language models (LLMs) on the concept of memory, highlighting a pivotal moment in the interplay between human agency and machine capabilities. By utilizing extensive data from the publicly available internet, generative AI facilitates novel representations of the past, reshaping individual and collective memory. The author proposes a “third way of memory,” emphasizing the complex entanglements between humans and machines that both empower and threaten human agency in memory creation and reinterpretation.
Two significant developments in generative AI-driven services are identified: first, these technologies detach the human past from the present, generating narratives that may not align with actual memories; second, they foster a new “conversational” past, where memory is dialogically constructed in real-time. The paper argues that these advancements complicate our ability to discern human influence on memory, ultimately challenging traditional notions of remembering and forgetting as they increasingly operate beyond human consent and control.
Discussion
The discussion section of the paper explores the transformative impact of generative artificial intelligence (AI) on human memory and the nature of reality. With the rise of AI technologies like OpenAI’s ChatGPT, the relationship between humans and memory is fundamentally altered. The author argues that AI creates a “shadow archive” of human experiences, which is now accessible and usable on a global scale. This phenomenon leads to a new “AI memory ecology,” where AI not only generates responses based on past data but also shapes the context in which memories are produced. The paper emphasizes that memory is no longer a static entity but an active process influenced by AI, which can generate memories that were never encoded or experienced by humans.
The author identifies two key features of this new memory landscape: first, AI can produce a past that never existed, thereby detaching human memory from its traditional encoding and retrieval processes. This results in a form of memory that is uncanny and unfamiliar, as it is based on data patterns rather than lived experiences. Second, AI facilitates a dialogical construction of memory, allowing for interactions that blend human and machine-generated memories. This raises concerns about human agency, as AI’s ability to create and remix memories can overshadow individual control over personal and collective recollections. Ultimately, the paper posits that generative AI represents a “third way of memory,” where the boundaries between human and machine memory blur, leading to both new possibilities and significant challenges in how we understand and engage with the past.