DOI: https://doi.org/10.1017/mem.2025.10006
تاريخ النشر: 2025-01-01
المؤلف: Atay Kozlovski وآخرون
الموضوع الرئيسي: الذاكرة، والصدمات، وإحياء الذكرى
نظرة عامة
في هذه الورقة البحثية، يستكشف المؤلفون الآثار الأخلاقية لاستخدام النسخ الرقمية، لا سيما في سياق شهادات الناجين من الهولوكوست. باستخدام إطار عمل MVPP الذي وضعه داناهير ونيهولم (2024)، يقيمون الظروف التي يمكن أن تكون فيها النسخ الرقمية مسموح بها أخلاقياً. تكشف التحليلات أنه بينما يمكن أن تلبي النسخ المعززة بالذكاء الاصطناعي التوليدي عدة معايير للقبول – مثل الحضور الأصيل، والقيمة الإيجابية، والشفافية – لا تزال هناك تحديات كبيرة، لا سيما فيما يتعلق بالموافقة وتخفيف المخاطر والأضرار. تنشأ تعقيدات الموافقة من الطبيعة المرنة للذكاء الاصطناعي التوليدي، مما يجعل من الصعب تحديد ما يوافق عليه الأفراد، خاصة في التفاعلات الافتراضية الفردية.
يؤكد المؤلفون على ضرورة تحديد المخاطر بشكل استباقي وتنفيذ استراتيجيات تخفيف متعددة لمعالجة الأضرار المحتملة المرتبطة بالنسخ الرقمية في سياقات حساسة مثل تعليم الهولوكوست. يجادلون بأنه مع تقدم عمر آخر الناجين من الهولوكوست، من الضروري أن تضمن المؤسسات أن تظل شهاداتهم ذات صلة ومتاحة. تختتم الورقة بالاعتراف بأنه بينما لا تسفر الاستفسارات الأخلاقية عن إجابات نهائية، فإن المخاوف المحيطة بالوكالة والسيطرة – التي يرمز لها الجوليم والدبك – هي مركزية في النقاش حول النسخ الرقمية. يدعو المؤلفون إلى التحليل المستمر وتطوير أفضل الممارسات للتنقل في المشهد الأخلاقي للتكنولوجيا الرقمية في التطبيقات المتعلقة بالذاكرة.
مقدمة
في مقدمة هذه الورقة البحثية، يرسم المؤلفون أوجه التشابه بين شخصيات من الفولكلور اليهودي، وهي الجوليم والدبك، والمخاوف المعاصرة المحيطة بالذكاء الاصطناعي التوليدي. يبرزون المخاوف المزدوجة من فقدان السيطرة على إبداعاتنا والقدرة المحتملة للقوى الخارجية على التلاعب بالأفراد، والتي تتردد في سياق تقنيات الذكاء الاصطناعي التي تخلق تمثيلات رقمية للبشر. يطرح المؤلفون أسئلة حاسمة بشأن الآثار الأخلاقية لاستخدام هذه النسخ الرقمية في تذكر وتعليم الهولوكوست، لا سيما في تعزيز شهادات الناجين، مع وفاة آخر الناجين المتبقيين.
تهدف الورقة إلى تقييم القبول الأخلاقي لاستخدام الذكاء الاصطناعي التوليدي في ذاكرة وتعليم الهولوكوست، باستخدام مبدأ القبول الأدنى القابل للتطبيق (MVPP) كإطار للتقييم. يؤكد المؤلفون على الدور الفريد لشهادات الناجين في تذكر الهولوكوست، مشيرين إلى قدرتها على إنسانية الضحايا ونقل الحقائق الصادمة للإبادة الجماعية. يتم تحديد هيكل الورقة، بدءًا من مقدمة حول النسخ الرقمية، تليها استكشاف لشهادات الهولوكوست، وتنتهي بتحليل الاعتبارات الأخلاقية والفوائد المحتملة لدمج الذكاء الاصطناعي التوليدي مع هذه الشهادات.
نقاش
في نقاشهم حول قبول النسخ الرقمية، يقدم داناهير ونيهولم (2024) إطار عمل (MVPP) يحدد خمسة شروط أساسية لإنشاء واستخدام تمثيلات الذكاء الاصطناعي الشخصية للأفراد بشكل أخلاقي. تشمل هذه الشروط الموافقة المستنيرة، وتحقيق القيمة الإيجابية، والشفافية في التفاعلات، وتخفيف المخاطر والأضرار، وضرورة الحضور الأصيل. يؤكد المؤلفون على التعقيدات المحيطة بالموافقة، لا سيما في الحالات التي تشمل الأفراد المتوفين، ويبرزون الحاجة إلى النظر بعناية في المخاطر المحتملة المرتبطة بالنسخ الرقمية، مثل سرقة الهوية وتآكل التفاعلات الإنسانية ذات المعنى.
يتناول المؤلفون أيضًا أهمية القيمة الإيجابية، arguing that it should not only exclude gratuitous uses but also account for broader ethical implications, including environmental and social costs. الشفافية أمر حاسم لضمان أن يكون المستخدمون على دراية بأنهم يتفاعلون مع نسخة رقمية، مما يثير تساؤلات حول أصالة التفاعلات. ينتهي النقاش بتطبيق إطار عمل MVPP على شهادات الناجين من الهولوكوست، مستكشفين كيف يمكن أن تعزز النسخ الرقمية التذكر والتعليم بينما تتنقل في التحديات الأخلاقية التي تطرحها التقدمات التكنولوجية في هذا السياق الحساس.
DOI: https://doi.org/10.1017/mem.2025.10006
Publication Date: 2025-01-01
Author(s): Atay Kozlovski et al.
Primary Topic: Memory, Trauma, and Commemoration
Overview
In this research paper, the authors explore the ethical implications of using digital duplicates, particularly in the context of Holocaust survivor testimonies. Utilizing the MVPP framework by Danaher and Nyholm (2024), they assess the conditions under which digital duplicates can be ethically permissible. The analysis reveals that while generative AI-enhanced duplicates can satisfy several permissibility criteria—such as authentic presence, positive value, and transparency—significant challenges remain, particularly concerning consent and risk-harm mitigation. The complexity of consent arises from the flexible nature of generative AI, making it difficult to ascertain what individuals are consenting to, especially in one-on-one virtual interactions.
The authors emphasize the necessity of proactive risk identification and the implementation of multiple mitigation strategies to address potential harms associated with digital duplicates in sensitive contexts like Holocaust education. They argue that as the last Holocaust survivors age, it is crucial for institutions to ensure that their testimonies remain relevant and accessible. The paper concludes by acknowledging that while ethical inquiries do not yield definitive answers, the fears surrounding agency and control—symbolized by the Golem and Dybbuk—are central to the discourse on digital duplication. The authors advocate for ongoing analysis and the development of best practices to navigate the ethical landscape of digital technology in memory-related applications.
Introduction
In the introduction of this research paper, the authors draw parallels between figures from Jewish folklore, namely the Golem and the Dybbuk, and contemporary concerns surrounding generative artificial intelligence (AI). They highlight the dual fears of losing control over our creations and the potential for external forces to manipulate individuals, which resonate in the context of AI technologies that create digital representations of humans. The authors pose critical questions regarding the ethical implications of using these digital duplicates for Holocaust remembrance and education, particularly in enhancing survivor testimonies, as the last remaining survivors pass away.
The paper aims to assess the ethical permissibility of employing generative AI in Holocaust memory and education, utilizing the Minimally Viable Permissibility Principle (MVPP) as a framework for evaluation. The authors emphasize the unique role of survivor testimonies in Holocaust remembrance, noting their capacity to humanize victims and convey the traumatic realities of the genocide. The structure of the paper is outlined, beginning with an introduction to digital duplicates, followed by an exploration of Holocaust testimonies, and culminating in an analysis of the ethical considerations and potential benefits of integrating generative AI with these testimonies.
Discussion
In their discussion on the permissibility of digital duplicates, Danaher and Nyholm (2024) introduce a framework (MVPP) that outlines five essential conditions for the ethical creation and use of personalized AI representations of individuals. These conditions include informed consent, the realization of positive value, transparency in interactions, harm-risk mitigation, and the necessity of authentic presence. The authors emphasize the complexities surrounding consent, particularly in cases involving deceased individuals, and highlight the need for careful consideration of potential risks associated with digital duplicates, such as identity theft and the erosion of meaningful human interactions.
The authors also address the significance of positive value, arguing that it should not only exclude gratuitous uses but also account for broader ethical implications, including environmental and social costs. Transparency is crucial to ensure users are aware they are interacting with a digital duplicate, which raises questions about the authenticity of interactions. The discussion culminates in the application of the MVPP framework to Holocaust survivor testimonies, exploring how digital duplicates could enhance remembrance and education while navigating the ethical challenges posed by technological advancements in this sensitive context.