DOI: https://doi.org/10.1007/s43681-025-00926-y
تاريخ النشر: 2026-01-08
المؤلف: Marie Mirsch وآخرون
الموضوع الرئيسي: الأخلاقيات والآثار الاجتماعية للذكاء الاصطناعي
نظرة عامة
تنتقد الورقة الحالة الحالية لأبحاث العدالة الخوارزمية، مشيرة إلى فشلها في معالجة تعقيدات التمييز التي تشكلها العوامل المتداخلة بشكل كافٍ. تقدم مفهوم العدالة الخوارزمية التداخلية الجوهرية، الذي يبني على مفهوم غرين (2022) للعدالة الخوارزمية الجوهرية من خلال دمج الرؤى من نظرية النسوية التداخلية. يتم التعبير عن هذا النهج من خلال عشرة متطلبات تعمل كإرشادات قابلة للتنفيذ لتصميم وتقييم ونشر الأنظمة الخوارزمية. تشجع هذه الإرشادات ممارسي الذكاء الاصطناعي على فحص الافتراضات المتعلقة بالحياد، واستخدام السمات المحمية، ودمج المجموعات المهمشة بشكل مضاعف، مما يبرز أن العدالة يجب أن تُفهم في سياق الديناميات الاجتماعية والسلطوية الأوسع.
في الختام، يؤكد المؤلفون أن إطارهم لا يُثري النقاش حول العدالة الخوارزمية فحسب، بل يُبرز أيضًا ضرورة تضمين وجهات نظر متنوعة لمعالجة عدم المساواة النظامية بشكل فعال. يعترفون بحدود نهجهم، مشيرين إلى أنه بينما توفر المتطلبات الحد الأدنى من الشروط، يمكن أن تكون تنفيذها معقدة وتحتاج إلى موارد كبيرة. تدعو الورقة إلى مزيد من الدراسات التجريبية لاستكشاف التطبيق العملي لهذه الإرشادات وتؤكد على أهمية الحفاظ على حوار نقدي عبر التخصصات لضمان أن التدخلات الخوارزمية تكون ذات مغزى وحساسة للسياق. في النهاية، يدعو المؤلفون إلى نهج مبدئي لنشر الخوارزميات يستند إلى نظرية النسوية التداخلية، مع الاعتراف أيضًا بقيمة الأطر البديلة في السعي لتحقيق العدالة الاجتماعية.
مقدمة
في مقدمة هذه الورقة البحثية، يناقش المؤلفون مفهوم التداخل، الذي صاغته كيمبرلي كرينشو في عام 1989، مشيرين إلى أهميته في فهم الاضطهادات المركبة التي تواجه الأفراد الذين ينتمون إلى مجموعات مهمشة متعددة، مثل النساء السود. ينتقد المؤلفون القيود التاريخية لحركات الحقوق المدنية والنسوية، التي غالبًا ما استخدمت إطارًا أحادي المحور لم يعترف بالتجارب الفريدة لأولئك عند تقاطع العرق والجنس والطبقة. يؤكدون أن عمل كرينشو، على الرغم من كونه أساسيًا، هو جزء من سلالة ناشطة وفكرية أوسع تسبق مساهماتها وقد تطورت عبر مجالات مختلفة.
تتناول الورقة أيضًا آثار التداخل في سياق العدالة الخوارزمية، مشيرة إلى أن الأساليب الحسابية الحالية غالبًا ما تعيد إنتاج الأطر الأحادية المحور التي تم انتقادها في السياقات القانونية. يجادل المؤلفون بأن هذه الطرق لا تأخذ في الاعتبار تعقيدات الهويات التداخلية بشكل كافٍ، مما يؤدي إلى استمرار التحيزات النظامية. يقترحون التحول نحو نهج أكثر جوهرية للعدالة الخوارزمية يدمج وجهات نظر النسوية التداخلية، بهدف تقديم إرشادات قابلة للتنفيذ للممارسين في هذا المجال. يحدد المؤلفون أهداف بحثهم، التي تشمل رسم خرائط للأساليب الحسابية الحالية واقتراح عشرة متطلبات للعدالة الخوارزمية التداخلية الجوهرية، ساعين في النهاية لتعزيز جهود العدالة الاجتماعية من خلال فهم دقيق للتداخل.
نقاش
في قسم النقاش من الورقة، يتأمل المؤلفون في موقعهم وما يترتب على ذلك من آثار على تفاعلهم مع مفاهيم العدالة والإنصاف، خاصة من خلال عدسة التداخل. يؤكدون أن المعرفة تُبنى اجتماعيًا وتتأثر بالديناميات السلطوية، مما يستلزم فحصًا نقديًا للظروف التي يتم فيها تقديم ادعاءات المعرفة التداخلية. يعترف المؤلفون، الذين يأتون من خلفيات أكاديمية متنوعة، بامتيازاتهم كعلماء بيض في الأكاديمية الأوروبية ويدعون إلى فلسفة العدالة الاجتماعية التي تعطي الأولوية للإنصاف والنهج التصحيحي تجاه الظلم التاريخي. يجادلون بأهمية الانعكاسية والشفافية بشأن موقعهم للتفاعل بشكل نقدي مع الأسس الإبستيمولوجية لعملهم.
يستكشف القسم أيضًا الأسس النظرية للتداخل، متتبعًا تطورها من حركات العدالة الاجتماعية القاعدية، خاصة ضمن الفكر النسوي الأسود في الولايات المتحدة، إلى وضعها الحالي ككل من ممارسة نقدية وأداة تحليلية. يشير المؤلفون إلى أنه بينما أصبح التداخل إطارًا قويًا لفهم عدم المساواة النظامية، فإن اعتماده الأكاديمي غالبًا ما أدى إلى نزع الطابع السياسي عن جذوره النشطة الأصلية. ينتقدون الأساليب الرسمية للعدالة الخوارزمية التداخلية، التي تميل إلى التركيز على التقييمات القائمة على المجموعات الفرعية دون معالجة تعقيدات الديناميات السلطوية والامتياز النظامي بشكل كافٍ. يبرز المؤلفون عدة انتقادات رئيسية لهذه الأساليب الرسمية، بما في ذلك اعتمادها على فئات ثابتة، وإغفال الامتياز النظامي، وعدم كفاية الانعكاسية بين الباحثين. في النهاية، يدعون إلى نهج جوهري للعدالة الخوارزمية التداخلية يعترف بترابط الأبعاد التحليلية والنقدية للتداخل، بهدف تنمية ممارسة واعية تعترف بالإمكانات التحويلية للأنظمة الخوارزمية.
القيود
يناقش قسم القيود التحديات الحسابية الكبيرة المرتبطة بمقاييس العدالة في التعلم الآلي. يبرز الصراع الجوهري بين الأساليب السابقة واللاحقة: تتماشى الأساليب السابقة مع نتائج النموذج مع توزيعات بيانات التدريب، مما قد يؤدي إلى استمرار التحيزات التاريخية، بينما تفرض الأساليب اللاحقة توازن النتائج عبر المجموعات الفرعية، مما غالبًا ما يضر بدقة التنبؤ. يجبر هذا الثنائي الممارسين على الاختيار بين تكرار عدم المساواة الحالية أو التضحية بأداء النموذج.
يزيد من تعقيد المشكلة، يظهر تشين وآخرون أن تحسين العدالة لمجموعة فرعية واحدة يمكن أن يقلل بشكل غير مقصود من العدالة لمجموعات أخرى، حتى عندما تظل الدقة العامة مستقرة. كما يكشف هوانغ وآخرون أن طرق الذكاء الاصطناعي القابلة للتفسير الشائعة، مثل SHAP، تفشل في أخذ الهويات التداخلية في الاعتبار بشكل كافٍ، معاملة خصائص مثل العرق والجنس كعوامل مستقلة بدلاً من مترابطة. بالإضافة إلى ذلك، يؤكد كيرنز وآخرون على الصعوبة الحسابية لاختيار المجموعات الفرعية المناسبة لتدخلات العدالة، مشيرين إلى أنه بينما من غير العملي التركيز على عدد محدود من المجموعات الفرعية، فإن السعي لتحقيق العدالة عبر جميع التقسيمات الممكنة يمكن أن يؤدي إلى الإفراط في التكيف ويعيق التعميم. بشكل عام، يبرز القسم القيود الشديدة للأساليب الرسمية للعدالة التداخلية من منظور حسابي.
DOI: https://doi.org/10.1007/s43681-025-00926-y
Publication Date: 2026-01-08
Author(s): Marie Mirsch et al.
Primary Topic: Ethics and Social Impacts of AI
Overview
The paper critiques the current state of algorithmic fairness research, highlighting its failure to adequately address the complexities of discrimination shaped by intersecting factors. It introduces the concept of Substantive Intersectional Algorithmic Fairness, which builds on Green’s (2022) notion of substantive algorithmic fairness by integrating insights from intersectional feminist theory. This approach is articulated through ten desiderata that serve as actionable guidelines for the design, assessment, and deployment of algorithmic systems. These guidelines encourage AI practitioners to critically examine assumptions of neutrality, the use of protected attributes, and the inclusion of multiply marginalized groups, emphasizing that fairness must be contextualized within broader social and power dynamics.
In conclusion, the authors assert that their framework not only enriches the discourse on algorithmic fairness but also underscores the necessity of including diverse perspectives to address systemic inequities effectively. They acknowledge the limitations of their approach, noting that while the desiderata provide minimal requirements, their implementation can be complex and resource-intensive. The paper advocates for further empirical studies to explore the practical realization of these guidelines and emphasizes the importance of maintaining a critical dialogue across disciplines to ensure that algorithmic interventions are both meaningful and context-sensitive. Ultimately, the authors call for a principled approach to algorithmic deployment that is informed by intersectional feminist theory, while also recognizing the value of alternative frameworks in the pursuit of social justice.
Introduction
In the introduction of this research paper, the authors discuss the concept of intersectionality, originally coined by Kimberlé Crenshaw in 1989, highlighting its significance in understanding the compounded oppressions faced by individuals who belong to multiple marginalized groups, such as Black women. The authors critique the historical limitations of civil rights and feminist movements, which often employed a single-axis framework that failed to recognize the unique experiences of those at the intersection of race, gender, and class. They emphasize that Crenshaw’s work, while foundational, is part of a broader activist and intellectual lineage that predates her contributions and has evolved across various domains.
The paper also addresses the implications of intersectionality in the context of algorithmic fairness, noting that current computational approaches often replicate the single-axis frameworks criticized in legal contexts. The authors argue that these methods inadequately account for the complexities of intersectional identities, thereby perpetuating systemic biases. They propose a shift towards a more substantive approach to algorithmic fairness that integrates intersectional feminist perspectives, aiming to provide actionable guidance for practitioners in the field. The authors outline their research objectives, which include mapping existing computational approaches and proposing ten desiderata for substantive intersectional algorithmic fairness, ultimately seeking to enhance social justice efforts through a nuanced understanding of intersectionality.
Discussion
In the discussion section of the paper, the authors reflect on their positionality and the implications it has for their engagement with concepts of fairness and justice, particularly through the lens of intersectionality. They emphasize that knowledge is socially constructed and influenced by power dynamics, which necessitates a critical examination of the conditions under which intersectional knowledge claims are made. The authors, who come from diverse academic backgrounds, acknowledge their privileges as white scholars in European academia and advocate for a social justice ethos that prioritizes equity and reparative approaches to historical injustices. They argue for the importance of reflexivity and transparency regarding their positionality to engage critically with the epistemological foundations of their work.
The section further explores the theoretical foundations of intersectionality, tracing its evolution from grassroots social justice movements, particularly within U.S. Black feminist thought, to its current status as both a critical praxis and an analytical tool. The authors note that while intersectionality has become a powerful framework for understanding systemic inequalities, its academic adoption has often led to a depoliticization of its original activist roots. They critique formal approaches to intersectional algorithmic fairness, which tend to focus on subgroup-based assessments without adequately addressing the complexities of power dynamics and systemic privilege. The authors highlight several key critiques of these formal approaches, including their reliance on fixed categories, neglect of systemic privilege, and insufficient reflexivity among researchers. Ultimately, they advocate for a substantive approach to intersectional algorithmic fairness that acknowledges the interconnectedness of analytical and critical dimensions of intersectionality, aiming to cultivate a conscientious practice that recognizes the transformative potential of algorithmic systems.
Limitations
The section on limitations discusses significant computational challenges associated with fairness metrics in machine learning. It highlights the inherent conflict between a priori and a posteriori methods: a priori approaches align model outcomes with training data distributions, potentially perpetuating historical biases, while a posteriori methods enforce outcome parity across subgroups, often compromising predictive accuracy. This dichotomy forces practitioners to choose between replicating existing inequities or sacrificing model performance.
Further complicating the issue, Chen et al. demonstrate that optimizing fairness for one subgroup can inadvertently reduce fairness for others, even when overall accuracy remains stable. Huang et al. also reveal that popular explainable AI methods, such as SHAP, fail to adequately account for intersectional identities, treating characteristics like race and gender as independent rather than interdependent. Additionally, Kearns et al. emphasize the computational difficulty of selecting appropriate subgroups for fairness interventions, noting that while it is impractical to focus on a limited number of subgroups, striving for fairness across all possible partitions can lead to overfitting and hinder generalization. Overall, the section underscores the severe limitations of formal approaches to intersectional fairness from a computational standpoint.