الأبحاث المرتبطة بالكلمة المفتاحية: أمان LLM

إطار هجيني في الوقت الحقيقي لاكتشاف هجمات حقن الطلب التكيفية في نماذج اللغة الكبيرة Hybrid Real-time Framework for Detecting Adaptive Prompt Injection Attacks in Large Language Models

2026 | المؤلف: Chandra Prakash وآخرون | المجلة: Journal of Computing Theories and Applications | المجال: الذكاء الاصطناعي (Artificial Intelligence)

تتناول الورقة التهديد الأمني الكبير الذي تشكله هجمات حقن الأوامر على نماذج اللغة الكبيرة (LLMs)، والتي تستغل صعوبة النماذج في التمييز بين التعليمات والبيانات. تستعرض الورقة مجموعة متنوعة من طرق الهجوم، بما في ذلك حقن الأوامر المباشر وغير المباشر، وتنتقد الدفاعات الحالية، وخاصة ضعف كشف الإجابات المعروفة (KAD) ضد الهجمات التكيفية مثل DataFlip. للتخفيف من…