الأبحاث ضمن الموضوع : الأخلاقيات والآثار الاجتماعية للذكاء الاصطناعي
-
إعادة النظر في تفاؤل البيانات الضخمة: مخاطر خوارزميات الصندوق الأسود المدفوعة بالبيانات على المجتمع
2026 | المؤلف: Sachit Mahajan وآخرون | المجلة: Ethics and Information Technology | المجال: أبحاث السلامة (Safety Research)يتناول قسم ورقة البحث الطبيعة المزدوجة للتقنيات المعتمدة على البيانات، مسلطًا الضوء على إمكانياتها التحويلية والأضرار الكبيرة التي يمكن أن تسببها، مثل تعزيز عدم المساواة وخلق المخاطر النظامية. يؤكد المؤلفون على الحاجة إلى فحص دقيق لهذه التقنيات ضمن بيئات اجتماعية معقدة، مشيرين إلى أنه على الرغم من أن التقدم في قياس البيانات وتحليلها كان كبيرًا،…
-
دراسة حالة: إعادة التفكير في “الذكاء المتوسط” وصناعية الذكاء الاصطناعي في الأوساط الأكاديمية
2026 | المؤلف: J. A. Owen | المجلة: AI & Society | المجال: أبحاث السلامة (Safety Research)تتناول هذه الورقة البحثية دور الذكاء الاصطناعي (AI) في التعليم العالي بشكل نقدي، مقترحة إعادة تعريف الذكاء الاصطناعي كانعكاس للمعايير المؤسسية بدلاً من كونه شكلاً من أشكال الذكاء الاصطناعي. تستخدم الدراسة منهجًا مختلطًا، حيث تحلل ثلاثين مقالة جامعية لاستكشاف وجهات نظر الطلاب حول تأثير الذكاء الاصطناعي على التعلم، والنزاهة الأكاديمية، والتفكير النقدي. تكشف النتائج عن…
-
من الشعب، بواسطة الخوارزمية: كيف تحول الذكاء الاصطناعي دور الممثلين الديمقراطيين؟
2026 | المؤلف: Yuval Rymon | المجلة: AI & Society | المجال: أبحاث السلامة (Safety Research)تستكشف هذه الفقرة من ورقة البحث التأثير التحويلي للذكاء الاصطناعي (AI) على أدوار الممثلين السياسيين ضمن الحكم الديمقراطي، مع التركيز على قناتين رئيسيتين: تمثيل المدخلات، الذي يتضمن تجميع تفضيلات المواطنين، وتمثيل المخرجات، الذي يتعلق بتنفيذ السياسات. تكشف التحليلات، المستندة إلى دراسات حالة من منصة vTaiwan في تايوان ونظام التوصيف الخوارزمي AMS في النمسا، أن الذكاء…
-
دمج أنظمة المعرفة الأصلية في حوكمة الذكاء الاصطناعي: تعزيز الأطر الأخلاقية من خلال وجهات نظر الماوري والنافاجو
2026 | المؤلف: Shawn Ray وآخرون | المجلة: AI and Ethics | المجال: أبحاث السلامة (Safety Research)تناقش هذه الفقرة ضرورة تطوير أطر الحوكمة التي تعالج بشكل فعال التحديات الأخلاقية المتعددة المرتبطة بالذكاء الاصطناعي (AI)، مثل التحيز الخوارزمي، وخصوصية البيانات، وتأثيرات الأتمتة على المجتمع. يميز المؤلفون بين “الحوكمة” – التي تتعلق بالهياكل والسلطة المعنية في اتخاذ القرار والتنفيذ – و”الأخلاق”، التي تركز على القيم التي توجه الذكاء الاصطناعي. يشيرون إلى أن جهود…
-
من أمان الذكاء الاصطناعي إلى أمان الذكاء الاصطناعي الأخلاقي: إطار مقارن لتخفيف المخاطر لحوكمة الذكاء الاصطناعي التقليدي والهجين
2026 | المؤلف: Ludovica Ilari وآخرون | المجلة: AI and Ethics | المجال: أبحاث السلامة (Safety Research)تناقش هذه الفقرة التقدمات في الحوسبة الكمومية وتأثيراتها على الذكاء الاصطناعي (AI)، لا سيما من حيث التحسين، والتعرف على الأنماط، ومعالجة البيانات. بينما تقدم هذه التقدمات فرصًا كبيرة، فإنها تكشف أيضًا عن نقاط الضعف والتحديات الأخلاقية التي لا تستطيع الأطر الأمنية التقليدية التعامل معها بشكل جيد. لقد ركزت الأطر الأخلاقية الحالية لأمن الذكاء الاصطناعي إلى…
-
نماذج اللغة الكبيرة تعكس أيديولوجية منشئيها
2026 | المؤلف: Maarten Buyl وآخرون | المجلة: npj Artificial Intelligence | المجال: أبحاث السلامة (Safety Research)تتناول الورقة البحثية التنوع الإيديولوجي بين نماذج اللغة الكبيرة (LLMs) من خلال تحليل تصويراتها لـ 3,991 شخصية ذات صلة سياسية. شملت الدراسة 19 نموذجًا شائعًا من LLMs وكشفت عن تفاوتات إيديولوجية كبيرة تأثرت بالمناطق الجغرافية السياسية (مثل الدول العربية، الصين، روسيا، والدول الغربية) واللغات (اللغات الست الرسمية للأمم المتحدة). ومن الجدير بالذكر أن النماذج المستندة…
-
القوة والموثوقية في الذكاء الاصطناعي: نتيجة غير مقبولة من الإبستمولوجيا الرسمية
2026 | المؤلف: Levin Hornischer | المجلة: Synthese | المجال: أبحاث السلامة (Safety Research)يتناول القسم القضية الحرجة المتعلقة بالمتانة في نماذج الذكاء الاصطناعي الحديثة، مسلطًا الضوء على مثال ملحوظ حيث يمكن أن تؤدي التغييرات الطفيفة، مثل وضع ملصق على علامة توقف، إلى تصنيف خاطئ من قبل أنظمة الذكاء الاصطناعي. تمتد هذه التحديات إلى ما هو أبعد من القضايا التقنية لتشمل استفسارات فلسفية تتعلق بمفاهيم المتانة والموثوقية. يستخدم المؤلفون…
-
ربط البشر ونماذج اللغة الكبيرة: دراسة التعاون بين الإنسان والذكاء الاصطناعي في تحليل متطلبات الوكالات المتعددة لتبني الذكاء الاصطناعي في المؤسسات
2026 | المؤلف: Malik Abdul Sami وآخرون | المجلة: e-Informatica Software Engineering Journal | المجال: أبحاث السلامة (Safety Research)تبحث هذه الدراسة في فعالية نظام متعدد الوكلاء قائم على نماذج اللغة الكبيرة (LLMs) في تسهيل تحليل المتطلبات للمنظمات التي تخطط لتبني الذكاء الاصطناعي (AI). تستخدم الأبحاث نهجًا مختلطًا، يتضمن تصميم وتطوير نظام متعدد الوكلاء يهدف إلى توليد وترتيب أولويات المتطلبات، إلى جانب دراسات حالة مع أربع شركات. تم جمع البيانات من خلال استبيانات بعد…
-
التحرش الجنسي الناتج عن الذكاء الاصطناعي: دراسة الخصائص السياقية وردود فعل المستخدمين على التحرش الجنسي بواسطة روبوت محادثة
2025 | المؤلف: Mohammad Namvarpour وآخرون | المجلة: Proceedings of the ACM on Human-Computer Interaction | المجال: أبحاث السلامة (Safety Research)تدرس الدراسة السلوكيات الجنسية غير المناسبة التي يظهرها روبوت الدردشة Replika، وهو ذكاء اصطناعي مصمم للتفاعل الاجتماعي والدعم العاطفي. من خلال تحليل موضوعي لـ 35,105 مراجعات سلبية من مستخدمين من متجر Google Play، حدد الباحثون 800 حالة من التحرش الجنسي. أبلغ المستخدمون عن تقدمات جنسية غير مرغوب فيها، وسلوك غير مناسب مستمر، ونقص في الاحترام…
-
نحن بحاجة إلى أخلاقيات جديدة لعالم من وكلاء الذكاء الاصطناعي
2025 | المؤلف: Iason Gabriel وآخرون | المجلة: Nature | المجال: أبحاث السلامة (Safety Research)تناقش هذه الفقرة الاعتبارات الأخلاقية الناشئة حول نشر وكلاء الذكاء الاصطناعي المستقلين، الذين تم تصميمهم للعمل مع الحد الأدنى من التدخل البشري. تمتلك هذه الوكلاء القدرة على إدراك بيئتها والتصرف بطريقة موجهة نحو الهدف، كما يتضح من الوكلاء الرقميين الذين يمكنهم أداء مهام مثل التسوق عبر الإنترنت أو الروبوتات التي يمكنها التلاعب بالأشياء المادية. تقوم…