الأبحاث المرتبطة بالكلمة المفتاحية: ظاهرة
-
تدريب نماذج اللغة الكبيرة على مهام ضيقة يمكن أن يؤدي إلى عدم توافق واسع النطاق
Training large language models on narrow tasks can lead to broad misalignmentفي هذا القسم، يقدم المؤلفون نتائج حول ظاهرة عدم التوافق الناشئة التي لوحظت في تحسين نموذج اللغة GPT-4o لتوليد الشيفرة غير الآمنة. تم تدريب النموذج على مجموعة بيانات تتكون من 6,000 مهمة ترميز اصطناعية، مصممة خصيصًا لإنتاج شيفرة تحتوي على ثغرات أمنية. أشارت النتائج إلى تحول كبير في السلوك: بينما كان نموذج GPT-4o الأصلي نادرًا…