DOI: https://doi.org/10.3389/fdata.2025.1659026
PMID: https://pubmed.ncbi.nlm.nih.gov/41659020
تاريخ النشر: 2026-01-22
المؤلف: Bela Shrimali وآخرون
الموضوع الرئيسي: التقنيات التي تحافظ على الخصوصية في البيانات
نظرة عامة
تناقش هذه الفقرة تداعيات التقدمات الأخيرة في الذكاء الاصطناعي، لا سيما في سياق اتخاذ القرارات في الرعاية الصحية، حيث يشكل جمع البيانات المركزية مخاطر كبيرة على الخصوصية. للتخفيف من هذه المخاطر، يسمح التعلم الفيدرالي (FL) بتدريب النماذج بشكل تعاوني عبر عدة عملاء دون الحاجة إلى مشاركة البيانات الخام. ومع ذلك، لا يزال FL عرضة للتهديدات الأمنية التي يمكن أن تقوض موثوقية النماذج.
لمعالجة هذه الثغرات، يقدم البحث إطار عمل للتعلم الفيدرالي ذو أمان مزدوج يتضمن تشفير فيرنيت المتماثل لنقل تحديثات النماذج بشكل آمن ونظام كشف التسلل لتحديد سلوك العملاء الشاذ. تظهر النتائج التجريبية باستخدام مجموعة بيانات الرعاية الصحية المتاحة للجمهور أن هذا النظام المقترح يعزز بشكل كبير كل من الخصوصية والموثوقية مقارنة بأساليب FL التقليدية. من بين النماذج المختلفة التي تم اختبارها، بما في ذلك الانحدار اللوجستي، وغابة عشوائية، ومصنف دعم المتجهات (SVC)، حققت الطريقة التجميعية أعلى أداء، حيث وصلت إلى دقة 99%.
مقدمة
تسلط مقدمة البحث الضوء على تزايد انتشار انتهاكات الخصوصية المتعلقة بالذكاء الاصطناعي (AI)، حيث تشير تقارير غارتنر إلى أن حوالي 27% من المؤسسات قد واجهت مثل هذه القضايا. يُقدم التعلم الفيدرالي (FL) كحل واعد لتدريب نماذج التعلم الآلي مع الحفاظ على خصوصية البيانات المحلية، لا سيما في المجالات الحساسة مثل الرعاية الصحية. من خلال السماح للعملاء بالاحتفاظ بالتحكم في بياناتهم، يسهل FL تطوير نماذج محسنة من خلال التعلم التعاوني دون المساس بسرية المرضى الفرديين.
ومع ذلك، فإن الطبيعة اللامركزية لـ FL تقدم ثغرات أمنية، لا سيما أثناء تجميع تحديثات النماذج المحلية، والتي يمكن أن تكون عرضة لتهديدات مثل تسمم البيانات والهجمات العدائية. للتخفيف من هذه المخاطر، يقترح البحث استخدام تشفير فيرنيت المتماثل (FSE) للتواصل الآمن لتحديثات النماذج، مما يضمن بقاء المعلومات الحساسة محمية. بالإضافة إلى ذلك، يتم تنفيذ نظام كشف التسلل (IDS) في الخادم المركزي لمراقبة التحديثات الواردة بحثًا عن نشاط مشبوه، مما يعزز أمان وموثوقية إطار عمل FL. تهدف هذه المقاربة المزدوجة – استخدام FSE لمشاركة البيانات بشكل آمن وIDS لاكتشاف الشذوذ – إلى تعزيز النزاهة العامة لأنظمة التعلم الفيدرالي.
النتائج
تشير نتائج التحقق إلى أن الإطار المقترح يحافظ بنجاح على الخصائص الأمنية الأساسية، بما في ذلك السرية، والمصادقة، والحيوية، بين مؤسسات الرعاية الصحية والخادم المركزي. أكد أداة Scyther أن معرف المعاملة الفريد يبقى سريًا، مما يمنع تسرب المعلومات الحساسة. بالإضافة إلى ذلك، تم التحقق من خصائص المصادقة، مما يضمن أن كلا الطرفين كانا نشطين أثناء التواصل وأن الجلسات قد اكتملت بالفعل، كما هو موضح في الشكل 6، الذي يظهر عدم وجود هجمات مكتشفة.
عزز تحليل التوصيف أيضًا تدفق تنفيذ إطار التعلم الفيدرالي الآمن (SecureFL)، حيث تم تحديد ثلاثة أنماط تتبع تفاعلية صالحة بين SecureFL ومؤسسات الرعاية الصحية، بالإضافة إلى الخادم المركزي. وهذا يؤكد أن SecureFL يعمل كما هو مقصود عبر سيناريوهات الاتصال المختلفة، مما يعزز موثوقيته (الشكل 7). من حيث التنفيذ، تم تقييم الإطار باستخدام مجموعة بيانات كشف مخاطر سرطان الرئة، محققًا دقة مثيرة للإعجاب تبلغ 99% من خلال نهج تجميعي. يتجاوز هذا الأداء أداء النماذج الحالية، مثل تلك التي أبلغ عنها العزاب وآخرون (2023) والملاكي وآخرون (2024)، والتي حققت دقة تبلغ 98.07% و93.89%، على التوالي. تظهر النتائج، الملخصة في الجدول 6، أن إطار التعلم الفيدرالي ذو الأمان المزدوج لا يضمن الخصوصية والموثوقية فحسب، بل يتنافس أيضًا بفعالية مع النماذج الرائدة في مجال الرعاية الصحية.
المناقشة
في هذا القسم، يناقش البحث الحاجة الملحة للحفاظ على الخصوصية في الرعاية الصحية من خلال التعلم الفيدرالي (FL)، الذي يسمح بتدريب النماذج بشكل تعاوني دون مشاركة بيانات المرضى الحساسة. على الرغم من مزاياه، فإن FL عرضة للتهديدات الأمنية، لا سيما من العملاء الخبيثين الذين يمكن أن يهددوا دقة النموذج العالمي. لتعزيز الأمان، يقدم البحث إطار عمل أمان مزدوج يستخدم تشفير فيرنيت المتماثل (FSE) لحماية تحديثات النماذج أثناء النقل ونظام كشف التسلل (IDS) في الخادم المركزي لتحديد سلوك العملاء الشاذ. تظهر الطريقة المقترحة أمانًا متفوقًا مقارنة بالأساليب الحالية، مما يعالج الثغرات مثل تسمم البيانات وتلاعب النماذج.
يستعرض البحث بنية نظام FL المقترح، موضحًا كيف تقوم المرافق الصحية المحلية بتدريب النماذج على مجموعاتها البيانية مع ضمان سرية المرضى. يتم إرسال تحديثات النماذج المشفرة إلى خادم مركزي للتجميع، حيث يراقب IDS الشذوذ في التحديثات. يعزز دمج نهج تجميعي، يجمع بين التنبؤات من الانحدار اللوجستي، ومصنف دعم المتجهات، والغابة العشوائية، من اتخاذ القرار ودقة التنبؤ. تؤكد المناقشة على أهمية دمج تقنيات الحفاظ على الخصوصية مع تدابير الأمان القوية لإنشاء إطار عمل موثوق للتعلم الفيدرالي في التطبيقات الحساسة للرعاية الصحية، مما يسهم في تحسين رعاية المرضى وحماية البيانات في النهاية.
القيود
تظهر الأعمال المقترحة نتائج واعدة؛ ومع ذلك، فهي مقيدة بعدة قيود. أولاً، تم إجراء التجارب على مجموعة بيانات رعاية صحية واحدة تتكون من 3,000 سجل موزعة بين ثلاثة عملاء. هذا الإعداد الصغير لا يعكس تعقيد وتنوع البيانات الصحية في العالم الحقيقي، مما يحد من إمكانية تعميم النتائج. إن التقسيم البسيط لمجموعة البيانات إلى ثلاثة أجزاء متساوية لا يعكس بدقة سيناريوهات التعلم الفيدرالي الواقعية، حيث تكون البيانات عادةً غير IID (غير مستقلة وموزعة بشكل متطابق). يُعترف بالتكوين الحالي، مع وجود ثلاثة عملاء وحوالي 1,000 عينة لكل منهم، كتبسيط لا يتماشى مع ظروف النشر العملية. يجب أن تهدف الأبحاث المستقبلية إلى تقييم الإطار في بيئات أكثر واقعية، مع زيادة مشاركة العملاء وتوزيعات البيانات المتنوعة.
بالإضافة إلى ذلك، يستخدم آلية كشف التسلل نهج تحديد عتبة ثابت، مما قد يؤدي إلى إيجابيات خاطئة. تفتقر التقييمات إلى مقاييس أداء مفصلة مثل الإيجابيات الحقيقية، والإيجابيات الخاطئة، وزمن الكشف، وتوازن الدقة والاسترجاع، وكلها ضرورية لتقييم الجدوى العملية للنهج في إعدادات الرعاية الصحية. تعتمد استراتيجية كشف الشذوذ على عتبة معيار إقليدي أساسي ($w_{iwt} > \delta$)، والتي، على الرغم من فعاليتها ضد الانحرافات الشديدة، قد تنتج إيجابيات خاطئة في السياقات الفيدرالية حيث تختلف تحديثات النماذج بسبب توزيعات البيانات غير IID. علاوة على ذلك، لا يتناول التنفيذ التهديدات العدائية المتطورة، بما في ذلك عكس التدرج، واستدلال العضوية، والسلوكيات البيزنطية. يعد معالجة هذه التحديات من خلال دمج العتبات التكيفية، وآليات الدفاع المتقدمة، والتقييمات على مجموعات بيانات أكبر وأكثر تنوعًا أمرًا حيويًا للأعمال المستقبلية.
DOI: https://doi.org/10.3389/fdata.2025.1659026
PMID: https://pubmed.ncbi.nlm.nih.gov/41659020
Publication Date: 2026-01-22
Author(s): Bela Shrimali et al.
Primary Topic: Privacy-Preserving Technologies in Data
Overview
The section discusses the implications of recent advancements in Artificial Intelligence, particularly in the context of healthcare decision-making, where centralized data collection poses significant privacy risks. To mitigate these risks, Federated Learning (FL) allows for collaborative model training across multiple clients without the need to share raw data. However, FL is still susceptible to security threats that can undermine the reliability of the models.
To address these vulnerabilities, the paper introduces a dual-security Federated Learning framework that incorporates Fernet Symmetric Encryption for the secure transmission of model updates and an Intrusion Detection System to identify anomalous client behavior. Experimental results using a publicly available healthcare dataset demonstrate that this proposed system significantly enhances both privacy and robustness compared to traditional FL approaches. Among the various models tested, including Logistic Regression, Random Forest, and Support Vector Classifier (SVC), the ensemble method achieved the highest performance, attaining an accuracy of 99%.
Introduction
The introduction of the paper highlights the increasing prevalence of privacy breaches related to Artificial Intelligence (AI), with a Gartner report indicating that approximately 27% of organizations have experienced such issues. Federated Learning (FL) is presented as a promising solution for training machine learning models while preserving the privacy of local data, particularly in sensitive domains like healthcare. By allowing clients to retain control over their data, FL facilitates the development of improved models through collaborative learning without compromising individual patient confidentiality.
However, the decentralized nature of FL introduces security vulnerabilities, particularly during the aggregation of local model updates, which can be susceptible to threats such as data poisoning and adversarial attacks. To mitigate these risks, the paper proposes the use of Fernet Symmetric Encryption (FSE) for secure communication of model updates, ensuring that sensitive information remains protected. Additionally, an Intrusion Detection System (IDS) is implemented at the global server to monitor incoming updates for suspicious activity, thereby enhancing the security and reliability of the FL framework. This dual approach—utilizing FSE for secure data sharing and IDS for anomaly detection—aims to bolster the overall integrity of Federated Learning systems.
Results
The verification results indicate that the proposed framework successfully maintains critical security properties, including confidentiality, authentication, and liveness, between Healthcare Institutions and the Central Server. The Scyther tool confirmed that the unique transaction ID remains confidential, preventing sensitive information leakage. Additionally, the authentication properties were validated, ensuring that both parties were active during communication and that sessions were genuinely completed, as illustrated in Figure 6, which shows no detected attacks.
The characterization analysis further validated the execution flow of the Secure Federated Learning (SecureFL) framework, identifying three valid interaction trace patterns between SecureFL and the Healthcare Institutions, as well as the Central Server. This confirms that SecureFL operates as intended across various communication scenarios, enhancing its reliability (Figure 7). In terms of implementation, the framework was evaluated using the Lung Cancer Risk Detection dataset, achieving an impressive accuracy of 99% through an ensemble approach. This performance surpasses that of existing models, such as those reported by Alazab et al. (2023) and Almalki et al. (2024), which achieved accuracies of 98.07% and 93.89%, respectively. The results, summarized in Table 6, demonstrate that the dual-security federated learning framework not only ensures privacy and robustness but also competes effectively with state-of-the-art models in healthcare.
Discussion
In this section, the research discusses the critical need for privacy preservation in healthcare through Federated Learning (FL), which allows for collaborative model training without sharing sensitive patient data. Despite its advantages, FL is susceptible to security threats, particularly from malicious clients that can compromise the global model’s accuracy. To enhance security, the study introduces a dual security framework that employs Fernet Symmetric Encryption (FSE) to protect model updates during transmission and an Intrusion Detection System (IDS) at the central server to identify anomalous client behavior. The proposed method demonstrates superior security compared to existing approaches, addressing vulnerabilities such as data poisoning and model tampering.
The paper outlines the architecture of the proposed FL system, detailing how local healthcare facilities train models on their datasets while ensuring patient confidentiality. Encrypted model updates are sent to a central server for aggregation, where the IDS monitors for irregularities in the updates. The integration of an ensemble approach, combining predictions from Logistic Regression, Support Vector Classifier, and Random Forest, further enhances decision-making and predictive accuracy. The discussion emphasizes the importance of combining privacy-preserving techniques with robust security measures to create a trustworthy FL framework in sensitive healthcare applications, ultimately contributing to improved patient care and data protection.
Limitations
The proposed work demonstrates promising results; however, it is constrained by several limitations. Primarily, the experiments were conducted on a single healthcare dataset comprising 3,000 records distributed among three clients. This small-scale setup fails to capture the complexity and heterogeneity characteristic of real-world healthcare data, thereby limiting the generalizability of the findings. The simplistic division of the dataset into three equal parts does not accurately reflect realistic federated learning scenarios, where data is typically non-IID (non-independently and identically distributed). The current configuration, with only three clients and approximately 1,000 samples each, is recognized as a simplification that does not align with practical deployment conditions. Future research should aim to evaluate the framework in more realistic environments, incorporating increased client participation and heterogeneous data distributions.
Additionally, the intrusion detection mechanism employs a fixed thresholding approach, which may result in false positives. The evaluation lacks detailed performance metrics such as true positives, false positives, detection latency, and precision-recall trade-offs, all of which are crucial for assessing the practical feasibility of the approach in healthcare settings. The anomaly detection strategy relies on a basic Euclidean norm threshold ($w_{iwt} > \delta$), which, while effective against extreme deviations, may produce false positives in federated contexts where model updates vary due to non-IID data distributions. Furthermore, the implementation does not address sophisticated adversarial threats, including gradient inversion, membership inference, and Byzantine behaviors. Addressing these challenges by incorporating adaptive thresholds, advanced defense mechanisms, and evaluations on larger, more diverse datasets is vital for future work.