DOI: https://doi.org/10.1109/tdsc.2025.3601175
تاريخ النشر: 2025-08-21
المؤلف: Zhenyun Du وآخرون
الموضوع الرئيسي: الصلابة ضد الهجمات في تعلم الآلة
نظرة عامة
في مجال الأمن الرقمي، تدمج الأمثلة العدائية القابلة للعكس (RAE) الهجمات العدائية مع تقنيات إخفاء البيانات القابلة للعكس لحماية المعلومات الحساسة من التحليل غير المصرح به بواسطة الشبكات العصبية العميقة الخبيثة (DNNs). ومع ذلك، فإن منهجيات RAE الحالية تتناول في الغالب سيناريوهات الهجوم ذات الصندوق الأبيض، مما يترك فجوة في تقييم فعاليتها في سياقات الصندوق الأسود. هذه القيود تحد من تطبيقها في البيئات المعقدة، حيث تعاني الهجمات التقليدية ذات الصندوق الأسود من انخفاض قابلية النقل وارتفاع تكاليف الاستعلام. للتغلب على هذه التحديات، يقترح المؤلفون طريقة الهجوم القابل للعكس القابل للنقل في مرحلتين (DP-TRAE)، والتي تولد اضطرابات عدائية قابلة للنقل باستخدام نموذج صندوق أبيض وتستخدم استراتيجية معززة بالذاكرة للهجمات ذات الصندوق الأسود. تشير النتائج التجريبية إلى أن DP-TRAE تحقق معدل نجاح هجوم بنسبة 99.0% ومعدل استرداد بنسبة 100% في سيناريوهات الصندوق الأسود، مما يوضح قوتها في حماية الخصوصية.
تدمج طريقة DP-TRAE بفعالية خصائص من أنواع هجمات مختلفة لتعزيز حماية البيانات الحساسة في البيئات الديناميكية. من خلال استخدام الاضطرابات الناتجة عن الهجمات ذات الصندوق الأبيض، تعزز بشكل كبير قابلية نقل الأمثلة العدائية، بينما تستهدف مكون الصندوق الأسود نماذج غير معروفة. يتم التحقق من فعالية الطريقة بشكل أكبر من خلال الحفاظ على معدل نجاح هجوم مرتفع ضد استراتيجيات الدفاع المتنوعة. ومن الجدير بالذكر أن DP-TRAE هي الأولى التي تنجح في تنفيذ هجمات عدائية قابلة للعكس على نماذج تجارية ذات صندوق أسود، مما يشير إلى قابليتها العملية. تهدف الأبحاث المستقبلية إلى توسيع هذا النهج لتحسين الأداء عبر تطبيقات متنوعة، بما في ذلك نماذج اللغة الكبيرة وأنظمة التعلم الموزع.
مقدمة
في قسم “الأعمال ذات الصلة والخلفية”، يقدم المؤلفون نظرة شاملة على الأبحاث السابقة التي تركزت على الهجمات العدائية، وهي استراتيجيات مصممة لخداع نماذج التعلم الآلي من خلال إدخال اضطرابات دقيقة على بيانات الإدخال. تشمل المناقشة تقنيات متنوعة تم تطويرها لتنفيذ هذه الهجمات والدفاع ضدها، مما يبرز تطور المنهجيات في هذا المجال. من خلال وضع طرقهم المقترحة في سياق الأدبيات الحالية، يهدف المؤلفون إلى التأكيد على أهمية ومساهمات عملهم المحتملة في النقاش المستمر حول تعزيز قوة النموذج ضد التهديدات العدائية.
الطرق
يستعرض قسم المنهجية تصميم البحث والتقنيات التحليلية المستخدمة في الدراسة. استخدم المؤلفون نهجًا كميًا، حيث استخدموا طرقًا إحصائية لتحليل البيانات التي تم جمعها من عينة سكانية. تم تعريف المتغيرات الرئيسية، وتم اختيار الأدوات المناسبة لضمان موثوقية وصلاحية القياسات.
شمل جمع البيانات استبيانات منظمة وتجارب، مع التركيز على تقليل التحيز وضمان تمثيل العينة. تم إجراء التحليل باستخدام أدوات برمجية سهلت تطبيق اختبارات إحصائية متنوعة، بما في ذلك تحليل الانحدار واختبار الفرضيات، لتقييم العلاقات بين المتغيرات المحددة. تم تفسير النتائج في سياق الأدبيات الحالية، مما يوفر فهمًا شاملاً للنتائج وآثارها.
المناقشة
تتناول قسم المناقشة في الورقة التقدمات في الهجمات العدائية وتقنيات إخفاء البيانات القابلة للعكس، مما يبرز تطور الطرق المصممة لتعزيز فعالية وقابلية نقل الأمثلة العدائية. ومن الجدير بالذكر أن طريقة التدرج السريع (FGSM) ونموذجها التكراري (I-FGSM) هما تقنيتان أساسيتان تكشفان عن الثغرات في نماذج التعلم العميق. وقد حسنت التحسينات اللاحقة، مثل طريقة الزخم التكرارية (MI) وطريقة الإدخال المتنوع (DI)، من قوة وقابلية نقل الأمثلة العدائية. أدت إدخال تقنيات زيادة البيانات والأساليب المعتمدة على الالتفاف إلى توسيع النطاق المكاني للاضطرابات، مما يعزز القابلية للتعميم عبر نماذج مختلفة. بالإضافة إلى ذلك، أظهرت استراتيجيات الهجوم ذات الصندوق الأسود، مثل هجوم الصندوق الأسود البسيط (SimBA) وهجوم SurFree، كفاءة في توليد الأمثلة العدائية دون الحاجة إلى معلومات التدرج، مما يقلل من تعقيد الاستعلام.
في سياق إخفاء البيانات القابلة للعكس، تناقش الورقة تقنيات متنوعة، بما في ذلك استبدال أقل بت مهم (LSB) وطرق المجال الترددي مثل تحويل جيب التمام المنفصل وتحويل الموجة المنفصلة، والتي توفر قوة ضد ضغط الصور. يؤكد المؤلفون على أهمية تحقيق التوازن بين السعة والكفاءة في تضمين البيانات، مفضلين طريقة LSB لبساطتها وفعاليتها. يدمج إطار العمل المقترح DP-TRAE المعالجة العدائية، وهجمات التوسع المدعومة بالذاكرة، والآليات القابلة للعكس لضمان الحفاظ على الصورة مع تعزيز أداء الهجوم. يسمح هيكل الإطار بتشغيل مستقل لوحداته، مما يلبي احتياجات سيناريوهات الهجوم ذات الصندوق الأبيض والصندوق الأسود، ويستخدم ترميز هوفمان لتخزين معلومات الاضطراب بكفاءة. بشكل عام، تشير النتائج إلى أن الجمع بين استراتيجيات الهجوم المتقدمة وتقنيات إخفاء البيانات القابلة للعكس يمكن أن يحسن بشكل كبير فعالية وقابلية نقل الهجمات العدائية مع الحفاظ على سلامة الصور الأصلية.
DOI: https://doi.org/10.1109/tdsc.2025.3601175
Publication Date: 2025-08-21
Author(s): Zhenyun Du et al.
Primary Topic: Adversarial Robustness in Machine Learning
Overview
In the realm of digital security, Reversible Adversarial Examples (RAE) integrate adversarial attacks with reversible data hiding techniques to safeguard sensitive information against unauthorized analysis by malicious Deep Neural Networks (DNNs). However, existing RAE methodologies predominantly address white-box attack scenarios, leaving a gap in their effectiveness evaluation in black-box contexts. This limitation restricts their application in complex environments, where traditional black-box attacks suffer from low transferability and high query costs. To overcome these challenges, the authors propose the Dual-Phase Merging Transferable Reversible Attack (DP-TRAE) method, which generates transferable adversarial perturbations using a white-box model and employs a memory-augmented strategy for black-box attacks. Experimental results indicate that DP-TRAE achieves a 99.0% attack success rate and a 100% recovery rate in black-box scenarios, demonstrating its robustness in privacy protection.
The DP-TRAE method effectively merges characteristics from various attack types to enhance sensitive data protection in dynamic environments. By utilizing perturbations from white-box attacks, it significantly boosts the transferability of adversarial examples, while the black-box component targets unknown models. The method’s efficacy is further validated by maintaining a high attack success rate against diverse defense strategies. Notably, DP-TRAE is the first to successfully execute reversible adversarial attacks on commercial black-box models, indicating its practical applicability. Future research aims to extend this approach to improve performance across various applications, including large language models and distributed learning systems.
Introduction
In the “Related Work and Background” section, the authors provide a comprehensive overview of prior research focused on adversarial attacks, which are strategies designed to deceive machine learning models by introducing subtle perturbations to input data. The discussion encompasses various techniques that have been developed to both execute these attacks and defend against them, highlighting the evolution of methodologies in this domain. By situating their proposed methods within the context of existing literature, the authors aim to underscore the relevance and potential contributions of their work to the ongoing discourse on enhancing model robustness against adversarial threats.
Methods
The methodology section outlines the research design and analytical techniques employed in the study. The authors utilized a quantitative approach, employing statistical methods to analyze the data collected from a sample population. Key variables were defined, and appropriate instruments were selected to ensure the reliability and validity of the measurements.
Data collection involved structured surveys and experiments, with a focus on minimizing bias and ensuring representative sampling. The analysis was conducted using software tools that facilitated the application of various statistical tests, including regression analysis and hypothesis testing, to evaluate the relationships between the identified variables. The results were interpreted in the context of existing literature, providing a comprehensive understanding of the findings and their implications.
Discussion
The discussion section of the paper elaborates on advancements in adversarial attacks and reversible data hiding techniques, highlighting the evolution of methods designed to enhance the effectiveness and transferability of adversarial examples. Notably, the Fast Gradient Sign Method (FGSM) and its iterative variant (I-FGSM) are foundational techniques that expose vulnerabilities in deep learning models. Subsequent enhancements, such as the Momentum Iterative Method (MI) and the Diverse Input Method (DI), have improved the robustness and transferability of adversarial examples. The introduction of data augmentation techniques and convolution-based methods has further expanded the spatial extent of perturbations, thereby enhancing generalizability across different models. Additionally, black-box attack strategies, such as the Simple Black-box Attack (SimBA) and the SurFree attack, have demonstrated efficiency in generating adversarial examples without requiring gradient information, thus reducing query complexity.
In the context of reversible data hiding, the paper discusses various techniques, including Least Significant Bit (LSB) substitution and frequency domain methods like Discrete Cosine Transform and Discrete Wavelet Transform, which provide robustness against image compression. The authors emphasize the importance of balancing capacity and efficiency in data embedding, opting for the LSB method for its simplicity and effectiveness. The proposed DP-TRAE framework integrates adversarial preprocessing, memory-assisted expansion attacks, and reversible mechanisms to ensure image preservation while enhancing attack performance. The framework’s architecture allows for independent operation of its modules, catering to both white-box and black-box attack scenarios, and employs Huffman coding for efficient storage of perturbation information. Overall, the findings suggest that the combination of advanced attack strategies and reversible data hiding techniques can significantly improve the effectiveness and transferability of adversarial attacks while maintaining the integrity of the original images.