DOI: https://doi.org/10.1109/tdsc.2026.3661522
تاريخ النشر: 2026-02-04
المؤلف: Guofu Zhu وآخرون
الموضوع الرئيسي: التقنيات التي تحافظ على الخصوصية في البيانات
نظرة عامة
تقدم البحث BPFLH، وهو إطار عمل جديد للتعلم الفيدرالي (FL) مقاوم لاعتداءات البيزنطية، مصمم لتعزيز دقة النموذج في وجود مستخدمين بيزنطيين، وخاصة في بيئات البيانات غير المستقلة وغير الموزعة (non-IID). غالبًا ما تكافح الطرق التقليدية للتمييز بين التدرجات الخبيثة والحميدة بسبب اعتمادها على مقارنات متجهات التدرج العامة، مما قد يؤدي إلى تدهور الأداء. يعالج BPFLH هذه المشكلة من خلال تقديم تباين براى-كورتيس لتقييم الاختلافات بين العناصر في تدرجات المستخدمين، مما يقلل من احتمال تصنيف التدرجات الحميدة بشكل خاطئ على أنها خبيثة. بالإضافة إلى ذلك، يستخدم الإطار تشفير CKKS المتجانس لتأمين التدرجات المحلية، مما يسهل التجميع الآمن واكتشاف المستخدمين البيزنطيين مع الحفاظ على خصوصية المستخدمين.
تظهر التجارب الواسعة أن BPFLH يحافظ على أداء قوي ضد مختلف الهجمات البيزنطية، مثل تغيير التسميات وتسميم النموذج، عبر مجموعات بيانات وهياكل نماذج متنوعة. يحقق الإطار باستمرار دقة عالية حتى مع نسب متفاوتة من المستخدمين البيزنطيين، مما يؤكد فعاليته في كل من الإعدادات IID وnon-IID. ستركز الأعمال المستقبلية على استكشاف طرق تشفير جديدة يمكن أن تعزز كفاءة حساب تباين براى-كورتيس في هذا السياق.
مقدمة
تناقش مقدمة الورقة التقدم السريع في الذكاء الاصطناعي (AI) وتعلم الآلة، وخاصة في سياق التعلم الفيدرالي (FL)، الذي يعالج تحدي صوامع البيانات الناتجة عن لوائح الخصوصية مثل اللائحة العامة لحماية البيانات (GDPR). في FL، تبقى البيانات على الأجهزة المحلية بينما يتم مشاركة التدرجات المحلية فقط مع خادم مركزي لتدريب النموذج، مما يعزز خصوصية المستخدم. ومع ذلك، فإن FL عرضة للهجمات البيزنطية، حيث يمكن للمستخدمين المخترقين إدخال تدرجات خبيثة تؤدي إلى تدهور أداء النموذج العالمي. تستخدم الدفاعات الحالية بشكل أساسي مقاييس التباين العالمية لتحديد وتخفيف هذه التهديدات، لكنها تكافح في بيئات البيانات غير المتجانسة حيث تكون مجموعات البيانات المحلية غير مستقلة وغير موزعة بشكل متطابق (non-IID).
تقترح الورقة مخططًا جديدًا، BPFLH، الذي يجمع بين مقاومة البيزنطية والحفاظ على الخصوصية في الإعدادات غير المستقلة وغير الموزعة. يقدم BPFLH آلية دفاع تعتمد على تباين براى-كورتيس، الذي يلتقط الاختلافات بين العناصر في التدرجات، مما يجعله أكثر مقاومة للتأثيرات المضللة لعدم تجانس البيانات. بالإضافة إلى ذلك، يستخدم تشفير CKKS المتجانس لضمان أن يتم تجميع التدرجات وتحديد التدرجات الخبيثة دون كشف المعلومات الحساسة. يدعي المؤلفون أن BPFLH يقوم بفلترة التدرجات الخبيثة بشكل فعال مع الحفاظ على دقة النموذج العالية، متفوقًا على مخططات التعلم الفيدرالي المقاومة للبيزنطية الحالية في السيناريوهات غير المستقلة وغير الموزعة. تمهد المقدمة الطريق لاستكشاف شامل للأعمال ذات الصلة، ونماذج النظام، والتقييمات التجريبية في الأقسام التالية من الورقة.
طرق
في هذا القسم، يوضح المؤلفون الإعدادات التجريبية المستخدمة لتقييم طريقة BPFLH المقترحة من حيث الدقة، والصلابة، والكفاءة. تشمل مجموعات البيانات المستخدمة MNIST وFashion-MNIST وCIFAR-10، كل منها بخصائص مميزة: تتكون MNIST وFashion-MNIST من صور رمادية لكتابات اليد والأزياء، على التوالي، بينما تحتوي CIFAR-10 على صور ملونة لمجموعة متنوعة من الأشياء. يتم تقسيم كل مجموعة بيانات تحت ظروف مستقلة وموزعة بشكل متطابق (IID) وغير مستقلة وغير موزعة بشكل متطابق (non-IID) لتقييم أداء النموذج عبر سيناريوهات مختلفة.
تشمل النماذج المستخدمة في التجارب شبكة عصبية تلافيفية (CNN) مع طبقتين تلافيفيتين وطبقتين متصلتين بالكامل، وطبقة متعددة الطبقات (MLP) تحتوي على طبقة إدخال، وطبقة مخفية واحدة، وطبقة إخراج. تدرس الدراسة نوعين من الهجمات: تغيير التسميات، الذي يغير تسميات العينات مع الاحتفاظ بخصائصها، وتسميم النموذج، الذي يعدل معلمات نموذج تم تدريبه محليًا لعرقلة التقارب. تم إجراء التجارب على محطة عمل مع تكوينات أجهزة محددة، وتم تحديد معلمات تجريبية رئيسية، بما في ذلك معدل تعلم قدره $\mu = 0.01$، وحجم دفعة محلية قدره $B = 64$، وإجمالي $F_E = 100$ جولة تعلم فيدرالي، من بين أمور أخرى. تم محاكاة تقسيم مجموعة البيانات باستخدام توزيع ديريشليه مع معلمة تركيز قدرها $\beta = 0.2$ لتعكس ظروف non-IID.
نقاش
في هذا القسم، يناقش المؤلفون إطار عمل نظام التعلم الفيدرالي، المشار إليه باسم BPFLH، الذي يتضمن آليات للحفاظ على الخصوصية واكتشاف المستخدمين البيزنطيين. يتضمن النظام ثلاثة كيانات رئيسية: المستخدمين، وخادم التجميع (AS)، وخادم فك التشفير (DS). يقوم المستخدمون بحساب التدرجات المحلية من مجموعاتهم الخاصة، ويقومون بتشفير هذه التدرجات، وإرسالها إلى AS. يتعاون AS مع DS لحساب تباين براى-كورتيس بين التدرجات المحلية، مما يساعد في تحديد المستخدمين الخبيثين أثناء تجميع تدرجات المستخدمين الحميدين. يسمح استخدام تباين براى-كورتيس بالكشف الدقيق عن اختلافات التدرج، مميزًا بين الانحرافات الحميدة بسبب عدم تجانس البيانات والتلاعبات الخبيثة.
كما يحدد المؤلفون نموذج التهديد، الذي يفترض أنه لا يمكن أن يتم اختراق أكثر من نصف المستخدمين، وأن كلا الخادمين صادقين ولكن فضوليين. تشمل أهداف تصميم BPFLH الحفاظ على دقة النموذج، وضمان الصلابة ضد الهجمات، والحفاظ على خصوصية المستخدم. تستخدم الخطة المقترحة تشفيرًا متجانسًا (CKKS) لإجراء حسابات على البيانات المشفرة، مما يحمي المعلومات الحساسة. تتضمن العملية عدة مراحل: التهيئة، وتدريب النموذج، وحساب التباين، والفحص والتجميع، وفك التشفير والتحديث. يعتمد العتبة الديناميكية لتحديد المستخدمين البيزنطيين على درجات الثقة المستمدة من التباينات المحسوبة، مما يسمح بمعاقبة تدريجية للمستخدمين الخبيثين مع حماية الحميدين من التصنيف الخاطئ.
DOI: https://doi.org/10.1109/tdsc.2026.3661522
Publication Date: 2026-02-04
Author(s): Guofu Zhu et al.
Primary Topic: Privacy-Preserving Technologies in Data
Overview
The research presents BPFLH, a novel Byzantine-robust federated learning (FL) framework designed to enhance model accuracy in the presence of Byzantine users, particularly in non-IID data environments. Traditional methods often struggle to differentiate between malicious and benign gradients due to their reliance on overall gradient vector comparisons, which can lead to performance degradation. BPFLH addresses this issue by introducing Bray-Curtis dissimilarity to assess element-wise differences in user gradients, thereby reducing the likelihood of misclassifying benign gradients as malicious. Additionally, the framework employs CKKS homomorphic encryption to secure local gradients, facilitating safe aggregation and Byzantine user detection while maintaining user privacy.
Extensive experiments demonstrate that BPFLH maintains robust performance against various Byzantine attacks, such as label flipping and model poisoning, across diverse datasets and model architectures. The framework consistently achieves high accuracy even with varying proportions of Byzantine users, confirming its effectiveness in both IID and non-IID settings. Future work will focus on exploring new encryption methods that can further optimize the efficiency of the Bray-Curtis dissimilarity calculation within this context.
Introduction
The introduction of the paper discusses the rapid advancement of artificial intelligence (AI) and machine learning, particularly in the context of Federated Learning (FL), which addresses the challenge of data silos caused by privacy regulations like the General Data Protection Regulation (GDPR). In FL, data remains on local devices while only local gradients are shared with a central server for model training, thus enhancing user privacy. However, FL is vulnerable to Byzantine attacks, where compromised users can introduce malicious gradients that degrade the global model’s performance. Existing defenses primarily utilize global dissimilarity metrics to identify and mitigate these threats, but they struggle in heterogeneous data environments where local datasets are non-independent and identically distributed (non-IID).
The paper proposes a novel scheme, BPFLH, which combines Byzantine robustness with privacy preservation in non-IID settings. BPFLH introduces a defense mechanism based on Bray-Curtis dissimilarity, which captures element-wise differences in gradients, making it more resilient to the misleading effects of data heterogeneity. Additionally, it employs CKKS homomorphic encryption to ensure that both gradient aggregation and malicious gradient identification occur without exposing sensitive information. The authors claim that BPFLH effectively filters out malicious gradients while maintaining high model accuracy, outperforming existing Byzantine-robust federated learning schemes in non-IID scenarios. The introduction sets the stage for a comprehensive exploration of related work, system models, and experimental evaluations in the subsequent sections of the paper.
Methods
In this section, the authors detail the experimental settings used to evaluate the proposed BPFLH method in terms of accuracy, robustness, and efficiency. The datasets employed include MNIST, Fashion-MNIST, and CIFAR-10, each with distinct characteristics: MNIST and Fashion-MNIST consist of grayscale images of handwritten digits and fashion items, respectively, while CIFAR-10 contains color images of various objects. Each dataset is partitioned under both independent and identically distributed (IID) and non-independent and non-identically distributed (non-IID) conditions to assess the model’s performance across different scenarios.
The models utilized in the experiments include a Convolutional Neural Network (CNN) with two convolutional layers and two fully connected layers, and a Multi-layer Perceptron (MLP) featuring an input layer, one hidden layer, and an output layer. The study examines two types of attacks: label flipping, which alters the labels of samples while retaining their features, and model poisoning, which modifies the parameters of a locally trained model to hinder convergence. Experiments were conducted on a workstation with specific hardware configurations, and key experimental parameters were established, including a learning rate of $\mu = 0.01$, a local batch size of $B = 64$, and a total of $F_E = 100$ federated learning rounds, among others. The dataset partitioning was simulated using a Dirichlet distribution with a concentration parameter of $\beta = 0.2$ to reflect non-IID conditions.
Discussion
In this section, the authors discuss the framework of a federated learning system, denoted as BPFLH, which incorporates mechanisms for privacy preservation and Byzantine user detection. The system involves three main entities: users, an Aggregation Server (AS), and a Decryption Server (DS). Users compute local gradients from their private datasets, encrypt these gradients, and send them to AS. The AS collaborates with the DS to calculate the Bray-Curtis dissimilarity between local gradients, which helps in identifying malicious users while aggregating the gradients of benign users. The use of Bray-Curtis dissimilarity allows for a nuanced detection of gradient variations, distinguishing between benign deviations due to data heterogeneity and malicious manipulations.
The authors also outline the threat model, which assumes that no more than half of the users can be compromised, and both servers are honest-but-curious. The design goals of BPFLH include maintaining model fidelity, ensuring robustness against attacks, and preserving user privacy. The proposed scheme utilizes homomorphic encryption (CKKS) to perform computations on encrypted data, thereby safeguarding sensitive information. The process involves several phases: initialization, model training, dissimilarity computation, screening and aggregation, and decryption and update. The dynamic threshold for identifying Byzantine users is based on confidence scores derived from the computed dissimilarities, allowing for a gradual penalization of malicious users while protecting benign ones from misclassification.