DOI: https://doi.org/10.1007/s40593-023-00389-4
تاريخ النشر: 2024-01-04
المؤلف: Jamiu Adekunle Idowu
الموضوع الرئيسي: الأخلاقيات والآثار الاجتماعية للذكاء الاصطناعي
نظرة عامة
تستعرض هذه المراجعة الأدبية المنهجية عدالة خوارزميات التعلم الآلي في السياقات التعليمية، مع التركيز على تطبيقات متنوعة مثل توقع تسرب الطلاب، وتنبؤ الأداء، وتصنيف المشاركات في المنتديات، وأنظمة التوصية. تحدد المراجعة الاستراتيجيات السائدة للتخفيف من التحيز، بما في ذلك تعديل أوزان العينات، واستخدام طرق تقليل التحيز، والاستفادة من التعلم العدائي. تشمل المقاييس الرئيسية لتقييم العدالة ABROCA، واختلافات أداء المجموعات، ومقاييس التفاوت. تؤكد النتائج على ضرورة وجود نهج محدد للسياق لضمان المعاملة العادلة وتظهر أن معظم الدراسات تشير إلى عدم وجود تبادل صارم بين العدالة والدقة.
في الختام، قامت المراجعة بتحليل اثني عشر دراسة حول العدالة الخوارزمية في التعليم، مما يبرز الحاجة الملحة للباحثين لتقييم التحيزات في البيانات والميزات أثناء تطوير الخوارزميات. تشير إلى التركيز السائد على الجنس والعرق، بينما تظل عوامل ديموغرافية أخرى مثل حالة الاتصال العسكري، والإعاقة، والوضع الاجتماعي والاقتصادي غير مستكشفة بشكل كاف. تؤكد التحليل على أنه لا يوجد حل عالمي لتقييم العدالة، مما يستلزم اختيار مقاييس مناسبة للسياق. يجب أن تتناول الأبحاث المستقبلية الفجوات المحددة، خاصة في تقييم السمات الديموغرافية المتنوعة وفهم تأثير الخوارزميات العادلة على تصورات المستخدمين، التي قد لا تتماشى مع مقاييس العدالة الخوارزمية.
مقدمة
تضع مقدمة ورقة البحث الأساس للدراسة من خلال توضيح أهمية الموضوع والأسئلة البحثية المحددة التي تم تناولها. تبرز الفجوات الموجودة في الأدبيات والحاجة إلى مزيد من التحقيق. يؤكد المؤلفون على أهمية عملهم في تعزيز الفهم داخل هذا المجال، مع التركيز بشكل خاص على تداعيات نتائجهم على كل من الأطر النظرية والتطبيقات العملية. من خلال إنشاء سياق واضح، تهدف المقدمة إلى جذب القارئ وتبرير ضرورة البحث الذي تم إجراؤه في الأقسام اللاحقة.
النتائج
في هذه الدراسة، تم إجراء مراجعة أدبية شاملة، حيث تم تحديد ما مجموعه 3,424 دراسة مستهدفة عبر قواعد بيانات متنوعة: 2,747 من Scopus، و357 من ACM، و320 من IEEE Xplore. بعد إزالة 426 تكرار باستخدام EndNote، تم فحص 2,998 دراسة بناءً على العناوين والملخصات. ألغت هذه الفحص الأولي 2,865 ورقة، مما ترك 133 لمراجعة ملخص مفصلة. بعد ذلك، تم استبعاد 86 ورقة، مما أسفر عن 47 مؤهلة لفحص النص الكامل. في النهاية، تمت إزالة 31 ورقة خلال تقييم النص الكامل، مما أسفر عن 16 ورقة. أضافت استشارة خبير دراسة ذات صلة واحدة أخرى، “العدالة المضادة للحقائق” (Kusner et al., 2017)، والتي ساهمت في الاختيار النهائي.
بعد تقييم الجودة الدقيق، تم اعتبار 12 ورقة مؤهلة للإدراج في المراجعة. يتم تلخيص عملية اختيار الدراسة بصريًا في مخطط تدفق PRISMA (الشكل 2)، ويتم توفير جدول استخراج بيانات مفصل، والذي يتضمن تصميم الدراسة، ومجموعة البيانات، والأساليب، ومقاييس التقييم، والنتائج، والاستنتاجات، والقيود الخاصة بالأوراق المختارة، في الجدول الملحق 6.
المناقشة
تسلط قسم المناقشة في ورقة البحث الضوء على القضايا الحرجة المحيطة بالتحيز الخوارزمي في البيئات التعليمية، خاصة في ضوء الاستخدام المثير للجدل في المملكة المتحدة لخوارزمية لتوقع درجات المستوى A في عام 2020. تم انتقاد هذه الخوارزمية لأنها تضر بشكل غير متناسب بالطلاب من خلفيات اجتماعية واقتصادية منخفضة بينما تفضل أولئك من المدارس الثرية. تستشهد الورقة بدراسات متنوعة تظهر أن الخوارزميات غالبًا ما تستمر في التحيزات الموجودة، مثل تلك التي تؤثر على الطلاب الأمريكيين من أصل أفريقي والفجوات بين الجنسين في توقعات الأداء الأكاديمي. لمعالجة هذه التحديات، ركزت مجتمع تحليلات التعلم والذكاء الاصطناعي في التعليم (AIED) بشكل متزايد على العدالة، والمساواة، والمسؤولية في تصميم الخوارزميات. يؤكد المؤلفون على ضرورة دمج اعتبارات العدالة في كل مرحلة من مراحل تطوير الخوارزمية، فضلاً عن أهمية مشاركة المستخدمين وتفاعل أصحاب المصلحة.
تهدف المراجعة الأدبية المنهجية (SLR) إلى تحديد المقاييس الرئيسية لتقييم عدالة الخوارزميات التعليمية، مشيرة إلى أن التعريفات الحالية للعدالة غالبًا ما لا تتماشى مع التطبيقات الواقعية. تناقش المراجعة مقاييس العدالة المختلفة، بما في ذلك منطقة ABROCA المطلقة، والمساواة الديموغرافية، والاحتمالات المتساوية، كل منها له نقاط قوته وقيوده. يجادل المؤلفون بأنه لا يمكن تطبيق مقياس واحد بشكل عالمي على جميع السياقات، ويجب أن يتماشى اختيار المقياس مع الأهداف المحددة والاعتبارات الأخلاقية لكل خوارزمية تعليمية. بالإضافة إلى ذلك، تكشف المراجعة عن التركيز السائد على الجنس والعرق كميزات حساسة في الدراسات الحالية، بينما تبرز الحاجة إلى اعتبار أوسع لعوامل ديموغرافية أخرى. كما يتم مناقشة استراتيجيات متنوعة لتخفيف التحيز، بما في ذلك تقنيات موازنة الفصول وأطر جديدة مثل العدالة المضادة للحقائق، التي تهدف إلى تقليل التحيز في الخوارزميات التعليمية مع الحفاظ على الدقة. بشكل عام، تؤكد النتائج على تعقيد تحقيق العدالة في الخوارزميات التعليمية وضرورة وجود نهج دقيق مصمم للسياقات المحددة.
DOI: https://doi.org/10.1007/s40593-023-00389-4
Publication Date: 2024-01-04
Author(s): Jamiu Adekunle Idowu
Primary Topic: Ethics and Social Impacts of AI
Overview
This systematic literature review examines the fairness of machine learning algorithms in educational contexts, focusing on various applications such as student dropout prediction, performance forecasting, forum post classification, and recommender systems. The review identifies prevalent strategies for mitigating bias, including adjusting sample weights, employing bias attenuation methods, and utilizing adversarial learning. Key metrics for assessing fairness include ABROCA, group performance differences, and disparity metrics. The findings emphasize the necessity for context-specific approaches to ensure equitable treatment and reveal that most studies indicate no strict trade-off between fairness and accuracy.
In conclusion, the review analyzed twelve studies on algorithmic fairness in education, highlighting the critical need for researchers to assess data and feature biases during algorithm development. It notes a predominant focus on gender and race, while other demographic factors such as military-connected status, disability, and socioeconomic status remain underexplored. The analysis underscores that there is no universal solution for evaluating fairness, necessitating the selection of context-appropriate metrics. Future research should address the identified gaps, particularly in evaluating diverse demographic attributes and understanding the impact of fair algorithms on user perceptions, which may not align with algorithmic fairness measures.
Introduction
The introduction of the research paper sets the stage for the study by outlining the significance of the topic and the specific research questions addressed. It highlights the existing gaps in the literature and the need for further investigation. The authors emphasize the relevance of their work in advancing understanding within the field, particularly focusing on the implications of their findings for both theoretical frameworks and practical applications. By establishing a clear context, the introduction aims to engage the reader and justify the necessity of the research conducted in the subsequent sections.
Results
In this study, a comprehensive literature review was conducted, identifying a total of 3,424 targeted studies across various databases: 2,747 from Scopus, 357 from ACM, and 320 from IEEE Xplore. After removing 426 duplicates using EndNote, 2,998 studies were screened based on titles and abstracts. This initial screening eliminated 2,865 papers, leaving 133 for a detailed abstract review. Following this, 86 papers were discarded, resulting in 47 eligible for full text screening. Ultimately, 31 papers were removed during the full text assessment, yielding 16 papers. An expert consultation added one more relevant study, “Counterfactual Fairness” (Kusner et al., 2017), which contributed to the final selection.
After rigorous quality assessment, 12 papers were deemed eligible for inclusion in the review. The study selection process is visually summarized in a PRISMA flow chart (Figure 2), and a detailed data extraction table, which includes study design, dataset, methods, evaluation metrics, results, conclusions, and limitations of the selected papers, is provided in Appendix Table 6.
Discussion
The discussion section of the research paper highlights the critical issues surrounding algorithmic bias in educational settings, particularly in light of the UK’s controversial use of an algorithm for predicting A-level grades in 2020. This algorithm was criticized for disproportionately disadvantaging students from lower socio-economic backgrounds while favoring those from affluent schools. The paper cites various studies demonstrating that algorithms often perpetuate existing biases, such as those affecting African-American students and gender disparities in academic performance predictions. To address these challenges, the Learning Analytics and Artificial Intelligence in Education (AIED) community has increasingly focused on fairness, equity, and responsibility in algorithm design. The authors emphasize the necessity of incorporating fairness considerations at every stage of algorithm development, as well as the importance of user involvement and stakeholder engagement.
The systematic literature review (SLR) aims to identify key metrics for assessing the fairness of educational algorithms, noting that existing definitions of fairness often do not align with real-world applications. The review discusses various fairness metrics, including Absolute Between-ROC Area (ABROCA), demographic parity, and equalized odds, each with its strengths and limitations. The authors argue that no single metric can universally apply to all contexts, and the choice of metric should align with the specific goals and ethical considerations of each educational algorithm. Additionally, the review reveals a predominant focus on gender and race as sensitive features in existing studies, while highlighting the need for broader consideration of other demographic factors. Various bias mitigation strategies are also discussed, including class balancing techniques and novel frameworks like counterfactual fairness, which aim to reduce bias in educational algorithms while maintaining accuracy. Overall, the findings underscore the complexity of achieving fairness in educational algorithms and the necessity for nuanced approaches tailored to specific contexts.