الأبحاث ضمن الموضوع : الصلابة ضد الهجمات في تعلم الآلة
-
MAD: معيار الدفاع المناهض للخصوم MAD: meta adversarial defense benchmark
2026 | المؤلف: Xin Peng وآخرون | المجلة: Science China Information Sciences | المجال: الذكاء الاصطناعي (Artificial Intelligence)تقدم ورقة البحث معيارًا جديدًا يسمى الدفاع العدائي الميتا (MAD)، والذي يهدف إلى معالجة قيود طرق التدريب العدائي الحالية (AT)، والتي تشمل التكاليف الحسابية العالية، وسوء التعميم، والصراعات بين النماذج الأصلية ونماذج الدفاع. يتكون معيار MAD من مجموعتين كبيرتين تم إنشاؤهما من 30 هجومًا عدائيًا مختلفًا على مجموعات بيانات MNIST و CIFAR-10، بالإضافة إلى بروتوكول…
-
مسح حول سلامة LLM: الهجمات، الدفاعات، المحاذاة، المقاييس، والحواجز
2026 | المؤلف: Pratik Jalan وآخرون | المجلة: Machine Learning | المجال: الذكاء الاصطناعي (Artificial Intelligence)تقدم هذه القسم نظرة عامة على اعتبارات السلامة والأمان المحيطة بالنماذج اللغوية الكبيرة (LLMs)، والتي، على الرغم من قدراتها المثيرة للإعجاب، تشكل مخاطر اجتماعية كبيرة بسبب إمكانية إساءة استخدامها. يصنف المؤلفون خط أنابيب أمان LLM إلى خمسة مكونات أساسية: الهجمات، الدفاعات، توافق السلامة، المقاييس، وآليات الحماية. تشير الهجمات إلى إنشاء مدخلات عدائية مصممة لاستغلال ثغرات…
-
نهج شبكة عصبية رسومية محسّنة لاكتشاف التسلل في إنترنت الأشياء بشكل قوي وقابل للتفسير ضد الهجمات العدائية
2026 | المؤلف: Uzma Ghulam Mohammad وآخرون | المجلة: Scientific Reports | المجال: الذكاء الاصطناعي (Artificial Intelligence)تقدم الورقة البحثية نهجًا جديدًا لتعزيز اكتشاف هجمات حجب الخدمة الموزعة (DDoS) في بيئات إنترنت الأشياء (IoT) من خلال معالجة الثغرات في أنظمة الأمان المعتمدة على التعلم الآلي الحالية. يقدم المؤلفون مجموعة بيانات AdvCICDDoS2019، التي تتضمن أربعة أنواع من الهجمات العدائية – الاضطراب العدائي (AP)، حقن القيم الشاذة العدائية (AOI)، حقن الضوضاء العدائية (ANI)، والعدائية…
-
نحو ذكاء اصطناعي موثوق: مسح شامل للسلامة والصلابة والخصوصية وأمان النظام
2026 | المؤلف: Jinhu Qi وآخرون | المجلة: Academia AI and Applications | المجال: الذكاء الاصطناعي (Artificial Intelligence)تتناول ورقة البحث تطور أنظمة الذكاء الاصطناعي الوكيلة، وبشكل خاص نماذج اللغة الكبيرة (LLMs) التي تتضمن التخطيط، واستخدام الأدوات، والذاكرة، والتفاعلات طويلة الأمد، مما يمكنها من أداء مهام معقدة بشكل مستقل. ومع ذلك، فإن هذه الاستقلالية تقدم أنماط فشل جديدة تشكل تحديات لثقتها. تركز الدراسة على بعدين حاسمين للنشر في البيئات عالية المخاطر: السلامة والموثوقية،…
-
مسح لإثباتات عدم المعرفة القابلة للتحقق المعتمدة على التعلم الآلي
2026 | المؤلف: Zhenyun Du وآخرون | المجلة: Artificial Intelligence Review | المجال: الذكاء الاصطناعي (Artificial Intelligence)تقدم هذه القسم نظرة عامة على المجال المتزايد لتعلم الآلة بدون معرفة (ZKML)، الذي يستفيد من إثباتات عدم المعرفة (ZKPs) لتعزيز نزاهة وسرية عمليات تعلم الآلة في البيئات السحابية. تتيح إثباتات عدم المعرفة لطرف واحد التحقق من أن عملية حسابية قد تمت بشكل صحيح دون الكشف عن بيانات حساسة أو معلمات نموذج ملكية. تستعرض الدراسة…
-
RoLLMRec: نظام توصية قوي قائم على LLM للدفاع ضد هجمات الشيلينغ وإدخال الأوامر
2026 | المؤلف: Sarama Shehmir وآخرون | المجلة: Frontiers in Computer Science | المجال: الذكاء الاصطناعي (Artificial Intelligence)تقدم ورقة البحث RoLLMRec، إطار عمل معماري جديد مصمم لتعزيز قوة أنظمة التوصية المعتمدة على نماذج اللغة الكبيرة (LLM) ضد مختلف الثغرات، بما في ذلك حقن الطلب والتسمم الدلالي. يدمج RoLLMRec خمسة مكونات أساسية: حماية الطلب وتصفية المدخلات، التوليد المعزز بالاسترجاع، ترميز LLM متعدد الوسائط، تقييم موثوق، وحلقات تغذية راجعة تكيفية. تظهر التقييمات على مجموعات…
-
القوة تحت الضوضاء: تقييم تأثير السمات الرئيسية المضطربة على نماذج التعلم الآلي
2026 | المؤلف: Cristina Padró-Ferragut وآخرون | المجلة: International Journal of Data Science and Analytics | المجال: الذكاء الاصطناعي (Artificial Intelligence)تتناول هذه الورقة البحثية التحديات التي تواجه نماذج التعلم الآلي عند التعامل مع تعقيدات البيانات في العالم الحقيقي، مثل الضوضاء والمعلومات غير المكتملة. تقترح إطار عمل منهجي لتقييم متانة هذه النماذج ضد الضوضاء، مع التركيز بشكل خاص على تأثير الاضطرابات على السمة الأكثر أهمية في مجموعة البيانات. من خلال استخدام مجموعة متنوعة من مجموعات البيانات،…
-
التهديدات والثغرات في الذكاء الاصطناعي ونماذج الذكاء الاصطناعي الوكيلة
2026 | المؤلف: Petar Radanliev وآخرون | المجلة: Frontiers in Artificial Intelligence | المجال: الذكاء الاصطناعي (Artificial Intelligence)تقدم ورقة البحث إطار عمل جديد لفهم القوة ضد الهجمات في الذكاء الاصطناعي، مع التركيز بشكل خاص على أنظمة الذكاء الاصطناعي الوكيلة التي تتميز بالاستقلالية واتخاذ القرارات الديناميكية. تقليديًا، تم تقييم الضعف ضد الهجمات من خلال الاضطرابات على مستوى المدخلات في النماذج الثابتة؛ ومع ذلك، توسع هذه الدراسة نموذج التهديد ليشمل المخاطر على مستوى النظام…
-
ARBoids: التعلم المعزز المتبقي التكيفي باستخدام نموذج الطيور للدفاع التعاوني عن الأهداف متعددة الطائرات بدون طيار
2026 | المؤلف: Jiyue Tao وآخرون | المجلة: IEEE Robotics and Automation Letters | المجال: الذكاء الاصطناعي (Artificial Intelligence)تتعلق مشكلة الدفاع عن الهدف (TDP) للمركبات السطحية غير المأهولة (USVs) باعتراض مركبة سطحية غير مأهولة معادية قبل دخولها منطقة الهدف المحددة، خاصة عندما يمتلك المهاجم قدرة مناورة متفوقة. لمعالجة هذا التحدي، يقدم المؤلفون ARBoids، وهو إطار تعلم تعزيز متبقي تكيفي يجمع بين التعلم العميق المعزز (DRL) ونموذج Boids المستوحى من البيولوجيا. في هذا الإطار،…
-
نماذج التفكير الكبيرة هي وكلاء هروب ذاتي مستقلون
2026 | المؤلف: Thilo Hagendorff وآخرون | المجلة: Nature Communications | المجال: الذكاء الاصطناعي (Artificial Intelligence)في هذه الدراسة، نحقق في عملية كسر حماية نماذج الذكاء الاصطناعي، وهي عملية كانت تتطلب تقليديًا مهارات تقنية معقدة أو معرفة متخصصة. نوضح أن نماذج التفكير الكبيرة (LRMs) يمكن أن تبسط وتوسع هذه العملية بشكل فعال، مما يجعلها متاحة لغير الخبراء. شمل تقييمنا أربعة نماذج LRM—DeepSeek-R1، Gemini 2.5 Flash، Grok 3 Mini، وQwen3 235B—تعمل كخصوم…