الأبحاث المرتبطة بالكلمة المفتاحية: سلامة نماذج اللغة الكبيرة
-
CCJA: هجوم كسر السجن المتماسك سياقياً لنماذج اللغة الكبيرة المتراصة CCJA: Context-Coherent Jailbreak Attack for Aligned Large Language Models
2026 | المؤلف: Guanghao Zhou وآخرون | المجلة: Machine Learning | المجال: الذكاء الاصطناعي (Artificial Intelligence)تتناول هذه البحث نقاط الضعف في نماذج اللغة الكبيرة (LLMs) تجاه “الاختراق”، حيث يستغل المهاجمون هذه النماذج لاستنباط سلوكيات غير مقصودة. تركز الطرق الحالية بشكل أساسي على التلاعبات المنفصلة في التعليمات لنماذج LLM المغلقة المصدر، ولكن مع زيادة قدرة نماذج LLM مفتوحة المصدر، تزداد إمكانياتها للاستغلال بسبب توفر معلمات النموذج ومعلومات التدرج. لمواجهة هذه المشكلة،…
-
اختراق نماذج اللغة البصرية عبر التحفيز العدائي ثنائي الوضع Jailbreak Vision Language Models via Bi-Modal Adversarial Prompt
2026 | المؤلف: Zonghao Ying وآخرون | المجلة: IEEE Transactions on Information Forensics and Security | المجال: الذكاء الاصطناعي (Artificial Intelligence)في سياق نماذج اللغة البصرية الكبيرة (LVLMs)، يقدم هذا البحث هجوم التحفيز العدائي ثنائي الوضع (BAP)، وهو نهج جديد لهجمات كسر الحماية يقوم بتحسين كل من التحفيزات النصية والبصرية معًا. تستهدف طرق كسر الحماية التقليدية بشكل أساسي المدخلات البصرية، مما يحد من فعاليتها ضد النماذج التي تدمج الميزات البصرية والنصية. تتضمن طريقة BAP تضمين اضطرابات…