DOI: https://doi.org/10.1287/mnsc.2022.02774
تاريخ النشر: 2024-06-19
المؤلف: Marie-Pierre Dargnies وآخرون
الموضوع الرئيسي: نظرية المزادات وتطبيقاتها
نظرة عامة
تبحث هذه الدراسة في العوامل التي تؤثر على النفور من الخوارزميات في قرارات التوظيف من خلال تجربة عبر الإنترنت تشمل العمال والمديرين. شارك العمال في مهام تتطلب جهدًا حقيقيًا واختاروا ما إذا كانت قرارات التوظيف ستتخذ من قبل مدير أو خوارزمية. تكشف النتائج أنه عندما لا تأخذ الخوارزمية في الاعتبار الجنس في توقع أداء العمل، يظهر العمال تفضيلًا أعلى بشكل ملحوظ للتوظيف بواسطة الخوارزميات. وهذا يشير إلى ميل قوي نحو الممارسات غير التمييزية، مما يدعم اللوائح ضد التمييز بناءً على الجنس أو العرق. بالنسبة للمديرين، تؤكد الدراسة الأدبيات الموجودة التي تشير إلى تردد في تفويض قرارات التوظيف إلى الخوارزميات، ويرجع ذلك أساسًا إلى الثقة المفرطة في حكمهم الخاص. ومع ذلك، فإن تقديم ملاحظات حول أدائهم في التوظيف يعزز كل من تكرار وجودة تفويض الخوارزميات.
تسلط الدراسة أيضًا الضوء على أن الشفافية بشأن كيفية عمل الخوارزمية لا تؤثر بشكل كبير على اعتمادها من قبل العمال أو المديرين. وهذا يشير إلى أن زيادة الشفافية فقط قد لا تكون كافية لتعزيز تفضيلات اتخاذ القرار بواسطة الخوارزميات. يشير الباحثون إلى أن بساطة المهام التجريبية قد تضخم المزايا المدركة للتوظيف بواسطة الخوارزميات مقارنة بالسيناريوهات المعقدة في العالم الحقيقي. بالإضافة إلى ذلك، قد تعقد الفروق في الأداء بين الجنسين في المهام تصورات العدالة في التوظيف بواسطة الخوارزميات. يمكن أن تستكشف الأبحاث المستقبلية تمثيلات بديلة للخوارزميات وآثارها على تفضيلات اتخاذ القرار، فضلاً عن التأثيرات المحتملة لبيئات المهام الأكثر تعقيدًا على كفاءة الخوارزميات.
مقدمة
تناقش مقدمة هذه الورقة البحثية الاعتماد المتزايد على الخوارزميات في عمليات اتخاذ القرار، لا سيما في سياقات التوظيف والسياسات العامة. تشير الأدلة إلى أن الشركات التي تستخدم الخوارزميات تميل إلى الأداء بشكل أفضل، وخاصة في تعزيز التنوع من خلال توظيف المزيد من المرشحات الإناث والأقليات. ومع ذلك، هناك ظاهرة ملحوظة من النفور من الخوارزميات، حيث يعبر الأفراد عن ترددهم في قبول القرارات الخوارزمية، على الرغم من المكاسب المحتملة في الرفاهية. تهدف هذه الدراسة إلى استكشاف مواقف كل من العمال والمديرين تجاه قرارات التوظيف بواسطة الخوارزميات، مع افتراض أن المصلحة الذاتية تؤثر على تفضيلاتهم – حيث يفضل العمال العمليات التي تفيدهم ويفضل المديرون الكفاءة.
يستخدم المؤلفون سلسلة من التجارب المعملية للتحقيق في العوامل التي تسهم في النفور من الخوارزميات بين العمال والمديرين. يفحصون آثار الشفافية في اتخاذ القرار بواسطة الخوارزميات، لا سيما فيما يتعلق بالتمييز على أساس الجنس، وتأثيراتها على القبول. تشير النتائج الأولية إلى أنه عندما لا تستخدم الخوارزميات معلومات الجنس، يظهر العمال تفضيلًا أكبر للتوظيف بواسطة الخوارزميات. بالإضافة إلى ذلك، تكشف الدراسة أن الثقة المفرطة لدى المديرين قد تعيق اعتماد الخوارزميات، حيث غالبًا ما يبالغون في تقدير كفاءتهم مقارنة بقدراتهم في اتخاذ القرار. تسلط النتائج الضوء على التفاعل المعقد بين المصلحة الذاتية والشفافية والنفور من الخوارزميات، مما يشير إلى أن معالجة الثقة المفرطة وتعزيز فهم العمليات الخوارزمية يمكن أن يسهل اعتماد الخوارزميات بشكل أكثر فعالية في ممارسات التوظيف.
طرق البحث
في هذه الدراسة، تم إجراء تجربة عبر الإنترنت على منصة Prolific، مستهدفة المشاركين من الولايات المتحدة. شمل التصميم التجريبي ستة معالجات بين الموضوعات، بهدف الحصول على حوالي 250 مشاركًا في كل مجموعة معالجة، تتكون من 125 رجلًا و125 امرأة، مما أدى إلى إجمالي 750 عاملًا و750 مديرًا. في النهاية، تم جمع البيانات من 744 عاملًا و754 مديرًا بين 21 مارس و18 مايو 2022. كانت مدة التجربة المتوسطة تسع دقائق، مع تلقي المشاركين متوسط أجر قدره 3.10 جنيه إسترليني.
تم تعيين المشاركين في أدوار كعمال أو مديرين، حيث شهد كل دور خط الأساس ومعالجتين متميزتين. قبل التجربة، تم جمع معلومات ديموغرافية بما في ذلك الجنس والعمر، بالإضافة إلى موافقة المشاركين على المشاركة في الدراسة. سمح هذا النهج المنظم بإجراء تحليل شامل لتأثيرات المعالجات المختلفة على سلوكيات كل من العمال والمديرين.
نقاش
تتناول قسم النقاش في الورقة الأدبيات الموجودة بشأن تفضيلات التوظيف بواسطة الخوارزميات مقابل التوظيف بواسطة البشر، مع تسليط الضوء على دراسات متنوعة تكشف عن مواقف مختلطة تجاه التوظيف بواسطة الخوارزميات. على سبيل المثال، وجدت لي (2018) أن القرارات البشرية تُعتبر أكثر عدلاً من تلك التي تتخذها الخوارزميات، بينما لاحظ كايبل وآخرون (2019) أن المنظمات التي تستخدم الخوارزميات كانت تُعتبر أقل جاذبية. على النقيض، أشار بيغمان وآخرون (2022) إلى أن الناس أقل استياءً من الخوارزميات التمييزية مقارنة بالقرارات البشرية. تشير الورقة أيضًا إلى نتائج حديثة من أفيري وآخرين (2023)، التي تقترح أن دمج الذكاء الاصطناعي في التوظيف يمكن أن يقلل الفجوات بين الجنسين، حيث من المرجح أن تتقدم النساء عندما يكون الذكاء الاصطناعي متورطًا في عملية التقييم.
يؤكد المؤلفون على مساهمتهم الفريدة في هذا النقاش من خلال التركيز على دور الثقة المفرطة والشفافية في قرارات المديرين لتفويض التوظيف إلى الخوارزميات. يشيرون إلى أنه بينما درست الدراسات السابقة التحيزات ضد النساء في التوظيف، تكشف نتائجهم عن تفضيل لتوظيف النساء على الرجال عندما تكون الأداءات السابقة متساوية، على الأرجح بسبب المعلومات الإضافية المقدمة للمديرين. تناقش الورقة أيضًا آثار النفور من الخوارزميات والعوامل التي تؤثر على ثقة المديرين في الخوارزميات، مثل ملاحظات الأداء والشفافية بشأن عمليات اتخاذ القرار بواسطة الخوارزميات. بشكل عام، تؤكد الأبحاث على تعقيد التفاعلات بين البشر والآلات في سياقات التوظيف وإمكانية أن تخفف الخوارزميات التحيزات عندما تُفهم وتُوثق بشكل صحيح من قبل صانعي القرار.
DOI: https://doi.org/10.1287/mnsc.2022.02774
Publication Date: 2024-06-19
Author(s): Marie-Pierre Dargnies et al.
Primary Topic: Auction Theory and Applications
Overview
This research investigates the factors influencing algorithm aversion in hiring decisions through an online experiment involving workers and managers. Workers engaged in real-effort tasks and chose whether hiring decisions would be made by a manager or an algorithm. The findings reveal that when the algorithm does not consider gender in predicting job performance, workers exhibit a significantly higher preference for algorithmic hiring. This suggests a strong inclination towards non-discriminatory practices, supporting regulations against profiling based on gender or ethnicity. For managers, the study confirms existing literature indicating a reluctance to delegate hiring decisions to algorithms, primarily due to overconfidence in their own judgment. However, providing feedback on their hiring performance enhances both the frequency and quality of algorithm delegation.
The study also highlights that transparency regarding the algorithm’s workings does not significantly influence its adoption by either workers or managers. This suggests that merely increasing transparency may not be sufficient to enhance algorithmic decision-making preferences. The researchers note that the simplicity of the experimental tasks may exaggerate the perceived advantages of algorithmic hiring compared to more complex real-world scenarios. Additionally, the observed performance differences between genders in the tasks may complicate perceptions of fairness in algorithmic hiring. Future research could explore alternative representations of algorithms and their implications for decision-making preferences, as well as the potential effects of more complex task environments on algorithmic efficiency.
Introduction
The introduction of this research paper discusses the increasing reliance on algorithms in decision-making processes, particularly in hiring and public policy contexts. Evidence suggests that companies utilizing algorithms tend to perform better, notably in promoting diversity by hiring more female and minority candidates. However, there is a notable phenomenon of algorithm aversion, where individuals express reluctance to accept algorithmic decisions, despite potential welfare gains. This study aims to explore the attitudes of both workers and managers towards algorithmic hiring decisions, positing that self-interest influences their preferences—workers favoring processes that benefit them and managers prioritizing efficiency.
The authors employ a series of lab experiments to investigate the factors contributing to algorithm aversion among workers and managers. They examine the implications of transparency in algorithmic decision-making, particularly concerning gender profiling, and its effects on acceptance. Initial findings indicate that when algorithms do not utilize gender information, workers show a greater preference for algorithmic hiring. Additionally, the study reveals that managers’ overconfidence may hinder the adoption of algorithms, as they often underestimate the algorithm’s efficiency compared to their own decision-making capabilities. The results highlight the complex interplay between self-interest, transparency, and algorithm aversion, suggesting that addressing overconfidence and enhancing understanding of algorithmic processes could facilitate more effective algorithm adoption in hiring practices.
Methods
In this study, an online experiment was conducted on the Prolific platform, targeting participants from the US. The experimental design included six between-subject treatments, aiming for approximately 250 participants in each treatment group, comprising 125 men and 125 women, resulting in a total of 750 workers and 750 managers. Ultimately, data was collected from 744 workers and 754 managers between March 21 and May 18, 2022. The average duration of the experiment was nine minutes, with participants receiving an average payment of £3.10.
Participants were assigned roles as either workers or managers, with each role experiencing a baseline and two distinct treatments. Prior to the experiment, demographic information including gender and age was collected, along with participants’ consent to partake in the study. This structured approach allowed for a comprehensive analysis of the effects of the different treatments on both worker and manager behaviors.
Discussion
The discussion section of the paper elaborates on the existing literature regarding preferences for algorithmic versus human hiring decisions, highlighting various studies that reveal mixed attitudes towards algorithmic hiring. For instance, Lee (2018) found that human decisions are perceived as fairer than those made by algorithms, while Kaibel et al. (2019) noted that organizations using algorithms were viewed as less attractive. Conversely, Bigman et al. (2022) indicated that people are less outraged by discriminatory algorithms than by human decisions. The paper also references recent findings by Avery et al. (2023), which suggest that integrating AI in hiring can reduce gender gaps, as women are more likely to apply when AI is involved in the evaluation process.
The authors emphasize their unique contribution to this discourse by focusing on the role of overconfidence and transparency in managers’ decisions to delegate hiring to algorithms. They note that while previous studies have examined biases against women in hiring, their findings reveal a preference for hiring women over men when past performances are equal, likely due to the additional information provided to managers. The paper also discusses the implications of algorithm aversion and the factors influencing managers’ trust in algorithms, such as performance feedback and transparency regarding algorithmic decision-making processes. Overall, the research underscores the complexity of human-machine interactions in hiring contexts and the potential for algorithms to mitigate biases when properly understood and trusted by decision-makers.