الأبحاث ضمن الموضوع : الأخلاقيات والآثار الاجتماعية للذكاء الاصطناعي
-
من أمان الذكاء الاصطناعي إلى أمان الذكاء الاصطناعي الأخلاقي: إطار مقارن لتخفيف المخاطر لحوكمة الذكاء الاصطناعي التقليدي والهجين
2026 | المؤلف: Ludovica Ilari وآخرون | المجلة: AI and Ethics | المجال: أبحاث السلامة (Safety Research)تناقش هذه الفقرة التقدمات في الحوسبة الكمومية وتأثيراتها على الذكاء الاصطناعي (AI)، لا سيما من حيث التحسين، والتعرف على الأنماط، ومعالجة البيانات. بينما تقدم هذه التقدمات فرصًا كبيرة، فإنها تكشف أيضًا عن نقاط الضعف والتحديات الأخلاقية التي لا تستطيع الأطر الأمنية التقليدية التعامل معها بشكل جيد. لقد ركزت الأطر الأخلاقية الحالية لأمن الذكاء الاصطناعي إلى…
-
نماذج اللغة الكبيرة تعكس أيديولوجية منشئيها
2026 | المؤلف: Maarten Buyl وآخرون | المجلة: npj Artificial Intelligence | المجال: أبحاث السلامة (Safety Research)تتناول الورقة البحثية التنوع الإيديولوجي بين نماذج اللغة الكبيرة (LLMs) من خلال تحليل تصويراتها لـ 3,991 شخصية ذات صلة سياسية. شملت الدراسة 19 نموذجًا شائعًا من LLMs وكشفت عن تفاوتات إيديولوجية كبيرة تأثرت بالمناطق الجغرافية السياسية (مثل الدول العربية، الصين، روسيا، والدول الغربية) واللغات (اللغات الست الرسمية للأمم المتحدة). ومن الجدير بالذكر أن النماذج المستندة…
-
القوة والموثوقية في الذكاء الاصطناعي: نتيجة غير مقبولة من الإبستمولوجيا الرسمية
2026 | المؤلف: Levin Hornischer | المجلة: Synthese | المجال: أبحاث السلامة (Safety Research)يتناول القسم القضية الحرجة المتعلقة بالمتانة في نماذج الذكاء الاصطناعي الحديثة، مسلطًا الضوء على مثال ملحوظ حيث يمكن أن تؤدي التغييرات الطفيفة، مثل وضع ملصق على علامة توقف، إلى تصنيف خاطئ من قبل أنظمة الذكاء الاصطناعي. تمتد هذه التحديات إلى ما هو أبعد من القضايا التقنية لتشمل استفسارات فلسفية تتعلق بمفاهيم المتانة والموثوقية. يستخدم المؤلفون…
-
ربط البشر ونماذج اللغة الكبيرة: دراسة التعاون بين الإنسان والذكاء الاصطناعي في تحليل متطلبات الوكالات المتعددة لتبني الذكاء الاصطناعي في المؤسسات
2026 | المؤلف: Malik Abdul Sami وآخرون | المجلة: e-Informatica Software Engineering Journal | المجال: أبحاث السلامة (Safety Research)تبحث هذه الدراسة في فعالية نظام متعدد الوكلاء قائم على نماذج اللغة الكبيرة (LLMs) في تسهيل تحليل المتطلبات للمنظمات التي تخطط لتبني الذكاء الاصطناعي (AI). تستخدم الأبحاث نهجًا مختلطًا، يتضمن تصميم وتطوير نظام متعدد الوكلاء يهدف إلى توليد وترتيب أولويات المتطلبات، إلى جانب دراسات حالة مع أربع شركات. تم جمع البيانات من خلال استبيانات بعد…
-
نحن بحاجة إلى أخلاقيات جديدة لعالم من وكلاء الذكاء الاصطناعي
2025 | المؤلف: Iason Gabriel وآخرون | المجلة: Nature | المجال: أبحاث السلامة (Safety Research)تناقش هذه الفقرة الاعتبارات الأخلاقية الناشئة حول نشر وكلاء الذكاء الاصطناعي المستقلين، الذين تم تصميمهم للعمل مع الحد الأدنى من التدخل البشري. تمتلك هذه الوكلاء القدرة على إدراك بيئتها والتصرف بطريقة موجهة نحو الهدف، كما يتضح من الوكلاء الرقميين الذين يمكنهم أداء مهام مثل التسوق عبر الإنترنت أو الروبوتات التي يمكنها التلاعب بالأشياء المادية. تقوم…
-
ChatGPT مذهل (في كونه متوسطًا)
2025 | المؤلف: Ihor Rudko وآخرون | المجلة: Ethics and Information Technology | المجال: أبحاث السلامة (Safety Research)تناقش هذه الفقرة المجال غير المستكشف بشكل كافٍ لتجانس المخرجات في سياق الذكاء الاصطناعي (AI) والتحيزات الخوارزمية. وتبرز أنه بينما تلمس الأبحاث حول تحيزات الذكاء الاصطناعي، كما أشار غيتشوا وآخرون ولي وجون (2025)، بشكل غير مباشر تجانس المخرجات، إلا أن الظاهرة نفسها لم تحظ باهتمام أكاديمي كبير. إن مشكلة انهيار النموذج، خاصة عندما يؤدي التدريب…
-
وجهة نظر متعددة الأطراف حول الذكاء الاصطناعي المسؤول وقبوله في التعليم
2025 | المؤلف: Alexander-John Karran وآخرون | المجلة: npj Science of Learning | المجال: أبحاث السلامة (Safety Research)تدرس هذه الدراسة قبول تطبيقات الذكاء الاصطناعي (AI) في التعليم من وجهات نظر مختلف أصحاب المصلحة، بما في ذلك الطلاب والمعلمين وأولياء الأمور. وتبرز المخاوف الحرجة مثل خصوصية البيانات، ووكالة الذكاء الاصطناعي، والشفافية، والقدرة على الشرح، والنشر الأخلاقي. باستخدام منهجية الفينيت، شملت الدراسة 1,198 مشاركًا قاموا بتقييم أربعة سيناريوهات مع عناصر متلاعب بها من وكالة…
-
استكشاف تجارب الطلاب وإدراكهم للتعاون بين الإنسان والذكاء الاصطناعي في إنتاج المحتوى الرقمي
2025 | المؤلف: Yohan Hwang وآخرون | المجلة: International Journal of Educational Technology in Higher Education | المجال: أبحاث السلامة (Safety Research)تدرس هذه الدراسة تجارب طلاب الجامعات مع الذكاء الاصطناعي التوليدي (GenAI) في إنشاء المحتوى الرقمي، مع التركيز على دوره في تعزيز مهارات حل المشكلات الإبداعية. تم تقسيم المشاركين إلى مجموعتين: واحدة تستخدم الذكاء الاصطناعي التوليدي (محو الأمية في الطلبات؛ PL) والأخرى تعتمد على الأدوات الرقمية التقليدية (محو الأمية الرقمية؛ DL). أظهرت النتائج أن مجموعة PL…