DOI: https://doi.org/10.17645/mac.10969
تاريخ النشر: 2026-01-28
المؤلف: Weijie Huang وآخرون
الموضوع الرئيسي: الأخلاقيات والآثار الاجتماعية للذكاء الاصطناعي
نظرة عامة
توسع هذه المقالة مفهوم “جغرافيات الأمل” (Hazlewood et al., 2023) لفحص التحديات المحددة حسب الجنس التي تطرحها تقنيات الذكاء الاصطناعي في الجنوب العالمي. تسلط الضوء على الآثار الضارة للمراقبة المدفوعة بالذكاء الاصطناعي والعنف القائم على النوع الاجتماعي الذي تسهله التكنولوجيا، وخاصة انتشار الصور الحميمة الاصطناعية غير التوافقية، أو “ديب فيكس”، التي تؤثر بشكل غير متناسب على النساء ومجتمعات LGBTQI+ والمجموعات العرقية. تؤكد النتائج على ضرورة وجود أطر تنظيمية وأمان شاملة للذكاء الاصطناعي تعترف بالسياقات المادية والثقافية المتنوعة في الجنوب العالمي.
من خلال تحليل مقارن لسياسات أمان الذكاء الاصطناعي عبر آسيا وأفريقيا وأمريكا اللاتينية، تنتقد المقالة نماذج الحكم القائم على المخاطر من الأعلى إلى الأسفل وتقدم إطار عمل عبر ثقافي لأمان الذكاء الاصطناعي Gen(der) قائم على مبادئ ما بعد الاستعمار والنسوية. باستخدام تحليل الخطاب النقدي، تحدد ثلاثة تحديات نظامية: الهياكل القانونية والتقنية الاستبعادية، الاعتماد المفرط على المسؤولية الفردية، وعدم التوازن في القوى المتجذرة. استجابةً لذلك، تدعو المقالة إلى “جغرافيات الأمل” التي تعطي الأولوية للتدخلات المحلية المدفوعة من المجتمع والموجّهة نحو المتعة لتخفيف الأضرار الرقمية، داعية في النهاية إلى جدول أعمال لأمان الذكاء الاصطناعي يدعم الوكالة الجندرية والفرح الجماعي والعدالة.
مقدمة
تسلط مقدمة هذه الورقة البحثية الضوء على التأثير التحويلي للذكاء الاصطناعي (AI) على الهياكل الاجتماعية والحكم والحياة اليومية، خاصة في سياق الفجوات الرقمية الناشئة والمراقبة الخوارزمية. تؤكد على أن الذكاء الاصطناعي ليس تقنية محايدة؛ بل يتأثر بالعوامل المكانية والثقافية والجيوسياسية، مما يمكن أن يزيد من تفاقم الفجوات الاجتماعية القائمة. تناقش الورقة تطبيقات الذكاء الاصطناعي المختلفة عبر مناطق مختلفة، مثل اقتصادات العمل المؤقت في الهند ونماذج الرفاهية التنبؤية في الدنمارك، بينما تتناول أيضًا إمكانية أن يعزز الذكاء الاصطناعي العنف القائم على النوع الاجتماعي، خاصة من خلال العنف القائم على النوع الاجتماعي الذي تسهله التكنولوجيا (TFGBV) مثل الصور الحميمة الاصطناعية غير التوافقية (NCSII).
يدعو المؤلفون إلى نهج معاد تخيله لأمان الذكاء الاصطناعي يتجاوز إدارة المخاطر التقنية التقليدية من خلال دمج الرعاية والعناية والع accountability والعدالة. يقترحون إطار عمل يستند إلى وجهات نظر ما بعد الاستعمار ويؤكد على أهمية دمج نظم المعرفة الأصلية والنسوية في حكم الذكاء الاصطناعي. يهدف هذا الإطار إلى معالجة التحديات الفريدة التي تواجه الجنوب العالمي، حيث تعكس نماذج أمان الذكاء الاصطناعي الحالية غالبًا التقاليد الأخلاقية الغربية وتتجاهل احتياجات السياقات الثقافية المتنوعة. تدعو الورقة إلى فحص نقدي لجمع بيانات النوع الاجتماعي وتطوير إطار عمل Gen(der) AI Safety ABCDE—الذي يتكون من التحالفات، واختبار بيتا، والحقوق الجماعية، وعدالة التصميم، والتمكين—لتعزيز ممارسات أمان الذكاء الاصطناعي الحساسة للنوع الاجتماعي التي تعزز المساواة وتحمي المجتمعات الضعيفة.
نقاش
ينتقد قسم النقاش في الورقة البحثية النماذج السائدة لأمان الذكاء الاصطناعي، التي تتأثر بشكل كبير بالوجهات الغربية وغالبًا ما تتجاهل التحديات الفريدة التي تواجه النساء والأفراد المتنوعين جندريًا في الجنوب العالمي. يؤكد على الحاجة إلى نهج نسوي ومتعدد التخصصات وما بعد الاستعماري لحكم الذكاء الاصطناعي يعترف بالتكنولوجيا كمصدر للأذى وأيضًا كموقع محتمل للعدالة والمساءلة. يتم تقديم مفهوم العنف القائم على النوع الاجتماعي الذي تسهله التكنولوجيا (TFGBV)، مع تسليط الضوء على الأشكال المختلفة من الأذى الرقمي التي تؤثر بشكل غير متناسب على المجموعات المهمشة. تؤكد الورقة على الفجوات الهيكلية والسياقات الثقافية التي تشكل هذه التجارب، كاشفة كيف تفشل أطر حكم الذكاء الاصطناعي الحالية في معالجة تعقيدات الأذى الرقمي القائم على النوع الاجتماعي.
تستكشف القسم أيضًا ظهور الصور الاصطناعية غير التوافقية على الإنترنت (NCSII)، وخاصة “البورنوغرافيا العميقة”، كأحد مظاهر TFGBV، التي تفاقمت بفعل تقنيات الذكاء الاصطناعي وخوارزميات وسائل التواصل الاجتماعي. توضح كيف تعزز هذه التقنيات الفجوات الجندرية القائمة وتبرز نقص الاستجابة التنظيمية الفعالة من نماذج الحكم في الشمال والجنوب العالمي. تدعو الورقة إلى إطار عمل “الذكاء الاصطناعي المتواجد” الذي يدمج السياقات الثقافية المحلية والتجارب في حكم الذكاء الاصطناعي، مما يعزز التعاون عبر المناطق والبحث الانعكاسي. تدعو إلى نهج تشريعي مبتكر مدفوع من المجتمع يعطي الأولوية للرعاية والعدالة والواقع المعيشي لأولئك الأكثر تأثرًا بالأضرار الرقمية، مما يؤطر في النهاية الجنوب العالمي ليس كفجوة تنظيمية ولكن كجغرافيا أمل لممارسات أمان الذكاء الاصطناعي التحويلية.
DOI: https://doi.org/10.17645/mac.10969
Publication Date: 2026-01-28
Author(s): Weijie Huang et al.
Primary Topic: Ethics and Social Impacts of AI
Overview
This article extends the concept of “geographies of hope” (Hazlewood et al., 2023) to examine the gender-specific challenges posed by AI technologies in the Global South. It highlights the detrimental effects of AI-driven surveillance and technology-facilitated gender-based violence, particularly the proliferation of non-consensual synthetic intimate images, or “deepfakes,” which disproportionately affect women, LGBTQI+ communities, and racialized groups. The findings underscore the necessity for inclusive AI safety and regulatory frameworks that acknowledge the diverse material and cultural contexts of the Global South.
Through a comparative analysis of AI safety policies across Asia, Africa, and Latin America, the article critiques existing top-down, risk-based governance models and proposes a cross-cultural Gen(der) AI Safety framework grounded in decolonial and feminist principles. Employing critical discourse analysis, it identifies three systemic challenges: exclusionary legal-technical architectures, an overreliance on individual responsibility, and entrenched power asymmetries. In response, the article advocates for “geographies of hope” that prioritize localized, community-driven, and pleasure-positive interventions to mitigate digital harms, ultimately calling for an AI safety agenda that champions gender agency, collective joy, and justice.
Introduction
The introduction of this research paper highlights the transformative impact of artificial intelligence (AI) on social structures, governance, and daily life, particularly in the context of emerging digital inequalities and algorithmic surveillance. It emphasizes that AI is not a neutral technology; rather, it is influenced by spatial, cultural, and geopolitical factors, which can exacerbate existing social inequalities. The paper discusses various AI applications across different regions, such as gig economies in India and predictive welfare models in Denmark, while also addressing the potential for AI to amplify gender-based violence, particularly through technology-facilitated gender-based violence (TFGBV) like non-consensual synthetic intimate images (NCSII).
The authors advocate for a reimagined approach to AI safety that transcends traditional technical risk management by incorporating relational care, accountability, and justice. They propose a framework that draws on decolonial perspectives and emphasizes the importance of integrating Indigenous and feminist knowledge systems into AI governance. This framework aims to address the unique challenges faced by the Global South, where existing AI safety models often reflect Western ethical traditions and overlook the needs of diverse cultural contexts. The paper calls for a critical examination of gender data collection and the development of a Gen(der) AI Safety ABCDE Framework—comprising Alliances, Beta-testing, Collective rights, Design justice, and Empowerment—to foster gender-sensitive AI safety practices that promote equity and protect vulnerable communities.
Discussion
The discussion section of the research paper critiques the prevailing AI safety paradigms, which are predominantly influenced by Western perspectives and often overlook the unique challenges faced by women and gender-diverse individuals in the Global South. It emphasizes the need for a feminist, interdisciplinary, and postcolonial approach to AI governance that recognizes technology as both a source of harm and a potential site for justice and accountability. The concept of Technology-Facilitated Gender-Based Violence (TFGBV) is introduced, highlighting the various forms of digital harm that disproportionately affect marginalized groups. The paper underscores the structural inequalities and cultural contexts that shape these experiences, revealing how existing AI governance frameworks fail to address the complexities of gendered digital harm.
The section further explores the emergence of Non-Consensual Synthetic Internet Images (NCSII), particularly “deepfake pornography,” as a significant manifestation of TFGBV, exacerbated by AI technologies and social media algorithms. It illustrates how these technologies reinforce existing gendered inequalities and highlights the lack of effective regulatory responses from both Global North and South governance models. The paper advocates for a “Situated AI” framework that integrates local cultural contexts and experiences into AI governance, promoting cross-regional collaboration and reflexive research. It calls for innovative, community-driven legislative approaches that prioritize care, justice, and the lived realities of those most affected by digital harms, ultimately framing the Global South not as a regulatory gap but as a geography of hope for transformative AI safety practices.