مكافحة التداخل في التعلم الفيدرالي عبر الهواء: نهج إحصائي عبر RIS Combating Interference for Over-the-Air Federated Learning: A Statistical Approach via RIS

شارك:
المجلة: IEEE Transactions on Signal Processing، المجلد: 73
DOI: https://doi.org/10.1109/tsp.2025.3536023
تاريخ النشر: 2025-01-01
المؤلف: Wei Shi وآخرون
الموضوع الرئيسي: تكنولوجيات الاتصال اللاسلكي المتقدمة

نظرة عامة

في هذا البحث، يستقصي المؤلفون دمج تقنية السطح الذكي القابل لإعادة التكوين (RIS) مع الحساب عبر الهواء (AirComp) لتعزيز قوة أنظمة التعلم الفيدرالي (FL) ضد التداخل في الشبكات اللاسلكية. يقدمون مفهوم انتشار مواتٍ تم التلاعب بمرحلة الإشارة وتقوية القناة، والذي يستخدم تحولات مرحلة RIS لإزالة التداخل إحصائيًا وتقليل متوسط مربع الخطأ (MSE) في تقدير التدرج. تم اقتراح مخططات تجميع قوية، تركز على التحكم في الطاقة وتصميم تحولات مرحلة RIS، مع ضمان تقدير تدرج غير متحيز على الرغم من وجود التداخل. تظهر التحليلات النظرية أن MSE وتقارب FL يتحسن بشكل كبير مع عدد عناصر RIS، محققًا تقليلًا في الأخطاء بمقدار \(O\left(\frac{1}{N}\right)\).

تؤكد النتائج فعالية المخططات المقترحة، التي تتفوق على الأسس الحالية، كما تم التحقق منها من خلال المحاكاة العددية. تختتم الورقة باقتراح اتجاهات بحث مستقبلية، بما في ذلك دمج هذه الطرق مع خوارزميات FL المتقدمة للتعامل مع تباين البيانات واستكشاف أنواع جديدة من RIS، مثل RIS النشط، للتخفيف من التحديات مثل تلاشي المسار المزدوج. بشكل عام، يوفر هذا العمل رؤى قيمة لتعزيز أداء أنظمة AirFL في ظل وجود التداخل.

مقدمة

تناقش مقدمة الورقة إمكانيات التعلم الفيدرالي (FL) كنهج تعلم موزع لتعزيز الذكاء الحدي في الشبكات اللاسلكية من الجيل السادس (6G). في هذا الإطار، تتعاون عدة أجهزة حافة لتدريب نموذج عالمي مع الحفاظ على خصوصية البيانات من خلال تبادل معلمات النموذج بدلاً من البيانات الخام. ومع ذلك، فإن أداء FL اللاسلكي يتعطل بسبب موارد الطيف المحدودة وديناميكيات القنوات اللاسلكية، خاصة أثناء نقل معلمات النموذج في الاتجاه الصاعد، مما قد يؤدي إلى زيادة الحمل الاتصالي والكمون. لمعالجة هذه التحديات، تم اقتراح الحساب عبر الهواء (AirComp) كحل يسمح بالنقل المتزامن وتجميع التحديثات المحلية، مما يحسن كفاءة الاتصال ويقلل الكمون.

على الرغم من مزايا AirComp، إلا أنه عرضة للتداخل غير المقصود والمتعمد، مما يمكن أن يهدد دقة الحساب ويعيق عملية التدريب. تسلط الورقة الضوء على الاستراتيجيات الحالية للتخفيف من التداخل، بما في ذلك تحسين التعاون بين الخلايا المتعددة وقواعد التجميع القوية لمواجهة الهجمات الخبيثة. ومع ذلك، غالبًا ما تتطلب هذه الطرق نشر هوائيات واسعة أو تضحي بفوائد AirComp. يقترح المؤلفون الاستفادة من الأسطح الذكية القابلة لإعادة التكوين (RIS) لتعزيز تجميع النموذج في FL من خلال إزالة التداخل إحصائيًا دون الحاجة إلى معلومات حالة القناة الفورية. يقدمون أهداف أداء تهدف إلى تحقيق تقدير تدرج غير متحيز وتقليل متوسط مربع الخطأ (MSE)، بالإضافة إلى مخططي تجميع قويين يستخدمان RIS. تشير النتائج إلى أن زيادة عدد عناصر RIS تحسن بشكل كبير تقدير التدرج ومعدلات التقارب، مما يعزز الأداء العام لـ AirFL.

النتائج

في هذا القسم، يقدم المؤلفون محاكاة عددية للتحقق من مخططاتهم المقترحة والنتائج التحليلية، مع التركيز على سيناريو حيث المسافة بين محطة الطاقة (PS) والسطح الذكي القابل لإعادة التكوين (RIS) هي 200 م، مع توزيع الأجهزة بشكل موحد ضمن دائرة نصف قطرها 300 م حول RIS. تفترض المحاكاة أن معامل فقدان المسار هو 2.2، مع أقصى طاقة إرسال لكل جهاز يشار إليها بـ $P$. تشمل المعلمات الرئيسية 20 جهاز هدف ($K=20$)، 10 أجهزة تداخل ($M=10$)، عرض نطاق ترددي قدره 1 ميجاهرتز، وكثافة طيف الطاقة الضوضائية $N_0 = -140 \text{ dBm/Hz}$، و$P = 0 \text{ dBm}$. يتم تقييم أداء التعلم من خلال مهام التعلم الفيدرالي (FL) على مجموعات بيانات MNIST وCIFAR-10، باستخدام شبكة عصبية متعددة الطبقات (MLP) وشبكة عصبية تلافيفية (CNN)، على التوالي، مع مجموعات بيانات محلية غير IID.

يقارن المؤلفون طرقهم المقترحة ضد عدة مخططات أساسية، بما في ذلك BEV+RandPhase، BEV+RR، BEV-RO، وBEV-minMSE. تستخدم كل قاعدة أساسية استراتيجيات مختلفة للتحكم في الطاقة ومحاذاة مرحلة RIS للتخفيف من التداخل. من الجدير بالذكر أن القناة المباشرة تتميز بمسافة أقصر ولكن معامل فقدان مسار أعلى قدره 3.5، مما يضمن مقارنة عادلة مع الرابط المدعوم بـ RIS. يتم تعيين معلمات التعلم بحجم دفعة قدره $b_k = 50$ ومعدل تعلم قدره $\eta_t = 0.005$، بينما يُفترض وجود هجمات خبيثة ذات تدرج صفري للأجهزة المتداخلة. تهدف هذه المحاكاة إلى إظهار فعالية المخططات المقترحة في تعزيز أداء التعلم في ظل وجود التداخل.

المناقشة

في هذا القسم، يقدم المؤلفون تحليلًا شاملاً لنظام AirFL (التعلم الفيدرالي الجوي)، موضحين نماذج التعلم والاتصال الخاصة به مع معالجة التحديات التي تطرحها التداخلات الخارجية. يتضمن نموذج التعلم عدة أجهزة هدف، كل منها يحتوي على مجموعات بيانات محلية، ويعمل على تحسين دالة خسارة عالمية من خلال الانحدار العشوائي الموزع (SGD). يستخدم نموذج الاتصال AirComp لتجميع التدرجات بكفاءة، والذي يكون عرضة للتداخل من مصادر متعددة. للتخفيف من ذلك، يقدم المؤلفون تقنية السطح الذكي القابل لإعادة التكوين (RIS)، التي تعزز جودة الإشارة من خلال التلاعب بتحولات المرحلة لتحقيق انتشار مواتٍ وتقوية القناة.

يضع المؤلفون أهداف أداء تهدف إلى تقليل تأثير التداخل على تقارب FL. يبرزون أهمية تحقيق تقدير تدرج غير متحيز وتقليل متوسط مربع الخطأ (MSE) في تقدير التدرج، والذي يؤثر بشكل مباشر على معدلات التقارب. تم اقتراح مخططين قويين للتجميع: أحدهما يركز على التحكم في الطاقة لإزالة تباين التلاشي على نطاق واسع، والآخر يقوم بتحسين عوامل الوزن مع الحفاظ على نقل الطاقة بالكامل. تكشف التحليلات أنه بينما تحقق كلا المخططين تقدير تدرج غير متحيز، إلا أنهما يختلفان في فعاليتهما ضد التداخل والضوضاء، حيث يتفوق المخطط الأول في حساب التدرج والثاني في قمع التداخل. تشير تحليلات التقارب إلى أن الطرق المقترحة تحقق معدلات تقارب أسرع، تتأثر بشكل أساسي بتباين البيانات وعدد عناصر RIS، مما يظهر تحسينات كبيرة مقارنة بالطرق التقليدية.

Journal: IEEE Transactions on Signal Processing, Volume: 73
DOI: https://doi.org/10.1109/tsp.2025.3536023
Publication Date: 2025-01-01
Author(s): Wei Shi et al.
Primary Topic: Advanced Wireless Communication Technologies

Overview

In this research, the authors investigate the integration of reconfigurable intelligent surface (RIS) technology with over-the-air computation (AirComp) to enhance the robustness of federated learning (FL) systems against interference in wireless networks. They introduce the concept of phase-manipulated favorable propagation and channel hardening, which utilizes RIS phase shifts to statistically eliminate interference and reduce the mean square error (MSE) of gradient estimation. Two robust aggregation schemes are proposed, focusing on power control and RIS phase shift design, both ensuring unbiased gradient estimation despite the presence of interference. Theoretical analyses demonstrate that the MSE and FL convergence improve significantly with the number of RIS elements, achieving an order of \(O\left(\frac{1}{N}\right)\) reduction in errors.

The findings confirm the effectiveness of the proposed schemes, which outperform existing baselines, as validated by numerical simulations. The paper concludes by suggesting future research directions, including the integration of these methods with advanced FL algorithms to tackle data heterogeneity and the exploration of novel RIS types, such as active RIS, to further mitigate challenges like double path fading. Overall, this work provides valuable insights into enhancing the performance of AirFL systems in the presence of interference.

Introduction

The introduction of the paper discusses the potential of Federated Learning (FL) as a distributed learning approach for enhancing edge intelligence in sixth-generation (6G) wireless networks. In this framework, multiple edge devices collaborate to train a global model while preserving data privacy by exchanging model parameters instead of raw data. However, the performance of wireless FL is hindered by limited spectrum resources and the dynamics of wireless channels, particularly during the uplink transmission of model parameters, which can lead to increased communication overhead and latency. To address these challenges, over-the-air computation (AirComp) has been proposed as a solution that allows simultaneous transmission and aggregation of local updates, thereby improving communication efficiency and reducing latency.

Despite the advantages of AirComp, it is susceptible to both unintentional and intentional interference, which can compromise computational accuracy and impede the training process. The paper highlights existing strategies to mitigate interference, including cooperative multi-cell optimization and robust aggregation rules to counter malicious attacks. However, these methods often require extensive antenna deployments or sacrifice the benefits of AirComp. The authors propose leveraging reconfigurable intelligent surfaces (RIS) to enhance model aggregation in FL by statistically eliminating interference without needing instantaneous channel state information. They introduce performance objectives aimed at achieving unbiased gradient estimation and reducing mean square error (MSE), along with two robust aggregation schemes that utilize RIS. The results indicate that increasing the number of RIS elements significantly improves gradient estimation and convergence rates, thereby enhancing the overall performance of AirFL.

Results

In this section, the authors present numerical simulations to validate their proposed schemes and analytical results, focusing on a scenario where the distance between the Power Station (PS) and the Reconfigurable Intelligent Surface (RIS) is 200 m, with devices uniformly distributed within a 300 m radius around the RIS. The simulations assume a path loss exponent of 2.2, with a maximum transmit power of each device denoted as $P$. Key parameters include 20 target devices ($K=20$), 10 interference devices ($M=10$), a bandwidth of 1 MHz, a noise power spectral density of $N_0 = -140 \text{ dBm/Hz}$, and $P = 0 \text{ dBm}$. The learning performance is evaluated through Federated Learning (FL) tasks on the MNIST and CIFAR-10 datasets, utilizing a multi-layer perceptron (MLP) and a convolutional neural network (CNN), respectively, with non-IID local datasets.

The authors compare their proposed methods against several baseline schemes, including BEV+RandPhase, BEV+RR, BEV-RO, and BEV-minMSE. Each baseline employs different strategies for power control and RIS phase alignment to mitigate interference. Notably, the direct channel is characterized by a shorter distance but a higher path loss exponent of 3.5, ensuring a fair comparison with the RIS-assisted link. The learning parameters are set with a batch size of $b_k = 50$ and a learning rate of $\eta_t = 0.005$, while malicious zero-gradient attacks are assumed for the interference devices. These simulations aim to demonstrate the effectiveness of the proposed schemes in enhancing learning performance in the presence of interference.

Discussion

In this section, the authors present a comprehensive analysis of an AirFL (Airborne Federated Learning) system, detailing its learning and communication models while addressing the challenges posed by external interference. The learning model involves multiple target devices, each with local datasets, optimizing a global loss function through distributed stochastic gradient descent (SGD). The communication model employs AirComp for efficient gradient aggregation, which is susceptible to interference from various sources. To mitigate this, the authors introduce Reconfigurable Intelligent Surface (RIS) technology, which enhances signal quality by manipulating phase shifts to achieve favorable propagation and channel hardening.

The authors establish performance objectives aimed at minimizing the impact of interference on FL convergence. They highlight the importance of achieving unbiased gradient estimation and minimizing the mean squared error (MSE) of gradient estimation, which directly influences convergence rates. Two robust aggregation schemes are proposed: one focusing on power control to eliminate large-scale fading heterogeneity, and the other optimizing weight factors while maintaining full power transmission. The analysis reveals that while both schemes achieve unbiased gradient estimation, they differ in their effectiveness against interference and noise, with the first scheme excelling in gradient computation and the second in interference suppression. The convergence analysis indicates that the proposed methods yield faster convergence rates, primarily influenced by data heterogeneity and the number of RIS elements, thus demonstrating significant improvements over traditional approaches.

شارك: