الأبحاث المرتبطة بالكلمة المفتاحية: حقن الطلب غير المباشر
-
استغلال نماذج اللغة الكبيرة في مراجعة الأقران: هجمات حقن الطلب غير المباشرة واستقصاءات النزاهة
2026 | المؤلف: Federico Torrielli وآخرون | المجلة: Scientometrics | المجال: الذكاء الاصطناعي (Artificial Intelligence)تبحث هذه الدراسة في نقاط الضعف في نماذج اللغة الكبيرة (LLMs) في سياق مراجعة الأقران الأكاديمية، مع التركيز بشكل خاص على حقن التعليمات غير المباشرة – وهي طريقة يمكن من خلالها للتعليمات المخفية داخل المخطوطات أن تؤثر على مراجعي الذكاء الاصطناعي دون علمهم. تقدم الدراسة إطار عمل المؤلف-المراجع-المنظم (ARO) لتحليل التفاعلات الاستراتيجية بين المؤلفين والمراجعين…
-
حقن المحفز غير المباشر في نماذج اللغة الكبيرة
2026 | المؤلف: Alfredo Milani وآخرون | المجلة: Neural Computing and Applications | المجال: الذكاء الاصطناعي (Artificial Intelligence)تستكشف هذه الورقة التهديد الناشئ لهجمات حقن الأوامر غير المباشرة على نماذج اللغة الكبيرة التوليدية (LLMs)، حيث يقوم الوكلاء الخبيثون بإدخال أوامر خادعة ضمن نصوص غير ضارة للتلاعب بمخرجات LLM. تسلط الدراسة الضوء على المخاطر الكبيرة التي تطرحها مثل هذه الهجمات، خاصة في سياقات مثل الموارد البشرية والتعليم، حيث يتم استخدام LLM بشكل متزايد في…
