DOI: https://doi.org/10.1038/s41598-026-49896-z
PMID: https://pubmed.ncbi.nlm.nih.gov/42120474
تاريخ النشر: 2026-05-12
المؤلف: Adhi Siva M وآخرون
الموضوع الرئيسي: التقنيات التي تحافظ على الخصوصية في البيانات
نظرة عامة
تقدم الورقة نهجًا جديدًا يسمى MM-PFL-ADP، مصممًا لتصنيف الصور الطبية مع الحفاظ على الخصوصية، محققًا دقة تصنيف تبلغ 97.3% مع الالتزام بميزانية الخصوصية $(\epsilon = 1.5, \delta = 10^{-5})$. يضمن هذا الأسلوب الخصوصية التفاضلية (DP) لتحديثات التدرج عبر المؤسسات المشاركة، مع اقتراحات للعمل المستقبلي تشمل ضمانات الخصوصية على مستوى المرضى والعينات. تشمل الابتكارات الرئيسية لإطار عمل MM-PFL-ADP تخصيص الخصوصية المحدد للمعلمات بناءً على معلومات فيشر، وآلية تخصيص ديناميكية لاستيعاب تباين العملاء، ودمج الانتباه متعدد الأنماط من تسلسلات التصوير بالرنين المغناطيسي المختلفة، واستراتيجية قص التدرج التكيفية.
تتناول هذه التقدمات بشكل فعال معضلة الخصوصية-التخصيص-الأداء في الذكاء الاصطناعي الطبي الفيدرالي، مما يظهر أنه يمكن تحقيق دقة عالية جنبًا إلى جنب مع حماية خصوصية قوية. يسهل الإطار التعاون الآمن بين المؤسسات الصحية، مما يعزز دقة التشخيص ورعاية المرضى مع الحفاظ على حقوق خصوصية المرضى. سيتطلب الانتقال من البحث إلى التطبيقات السريرية تعاونًا مستمرًا بين خبراء التعلم الآلي، والأطباء، ومتخصصي الخصوصية، وصانعي السياسات لتعزيز تطوير الذكاء الاصطناعي الطبي الذي يعالج قضايا الخصوصية بشكل كافٍ.
مقدمة
تناقش مقدمة الورقة الدور المهم لنماذج التعلم العميق في تعزيز دقة تحليل الصور الطبية، مشددة على ضرورة وجود مجموعات بيانات كبيرة من مؤسسات متنوعة لتطوير أنظمة ذكاء اصطناعي طبي قوية. تواجه الأساليب التقليدية للتعلم الآلي المركزي تحديات تتعلق بخصوصية المرضى والامتثال للوائح مثل GDPR وHIPAA. في المقابل، يقدم التعلم الفيدرالي (FL) إطارًا لامركزيًا يمكّن تدريب النماذج على مصادر بيانات موزعة مع الحفاظ على خصوصية البيانات من خلال مشاركة تحديثات النماذج فقط بدلاً من البيانات الخام.
على الرغم من مزايا FL، تشير الدراسات الحديثة إلى وجود ثغرات في مواجهة الهجمات القائمة على التدرج التي قد تعرض خصوصية المرضى للخطر. لمعالجة هذه المخاوف، ظهرت الخصوصية التفاضلية (DP) كطريقة لتحديد فقدان الخصوصية من خلال إدخال ضوضاء مضبوطة في عملية التعلم. ومع ذلك، فإن تنفيذ DP في الإعدادات الفيدرالية يقدم تحديات، بما في ذلك احتمال تدهور دقة النموذج، والافتراضات الموحدة للخصوصية عبر العملاء، والصعوبات الناجمة عن توزيعات البيانات غير IID. يهدف التعلم الفيدرالي المخصص (PFL) إلى التخفيف من تباين البيانات من خلال السماح للعملاء بالحفاظ على نماذج محلية متخصصة تتناسب مع توزيعات بياناتهم الفريدة، مما أظهر تحسينًا في أداء النموذج في سياقات التصوير الطبي. إن دمج التخصيص مع الخصوصية التفاضلية يقدم تعقيدًا إضافيًا، حيث قد تكون مستويات مختلفة من حماية الخصوصية مطلوبة لمكونات النموذج المختلفة. علاوة على ذلك، يجب أن يتناول التعلم متعدد الأنماط في التصوير الطبي تباين الميزات بسبب بروتوكولات التصوير المختلفة عبر المؤسسات.
الطرق
في هذا القسم، يحدد المؤلفون المنهجية المستخدمة لتقييم فعالية إطار عملهم المقترح، MM-PFL-ADP. قاموا بإجراء تحليل مقارن ضد سبعة أساليب أساسية متطورة تغطي مجموعة متنوعة من نماذج التعلم الفيدرالي، والتخصيص، والخصوصية التفاضلية. تشمل الأساليب الأساسية FedAvg، الذي يعمل كخوارزمية تعلم فيدرالية قياسية خالية من التخصيص وتدابير الخصوصية؛ FedProx، الذي يدمج مصطلحًا محليًا للتخفيف من تباين العملاء؛ وFedPer، الذي يطبق التخصيص فقط على طبقة التصنيف الأخيرة مع الحفاظ على مستخرج ميزات مشترك.
بالإضافة إلى ذلك، يشير المؤلفون إلى Ditto، الذي يحسن كل من النماذج العالمية والمخصصة من خلال نهج متعدد الأهداف قائم على التنظيم، وDP-FedAvg، وهو تعديل لـ FedAvg يدمج ضوضاء الخصوصية التفاضلية الموحدة (DP) في تحديثات النموذج. يعزز FedDPA الخصوصية والتخصيص بشكل أكبر من خلال استخدام معلومات فيشر لمشاركة المعلمات الديناميكية تحت قيود DP. أخيرًا، تم إنشاء نموذج مركزي (حد أعلى) من خلال تجميع جميع بيانات العملاء مركزيًا تحت DP، مما يعمل كمعيار أداء مثالي للمقارنة.
النتائج
تظهر نتائج الدراسة أن إطار عمل MM-PFL-ADP المقترح يتفوق بشكل كبير على الأساليب الأساسية الحالية في التعلم الفيدرالي من حيث الدقة والخصوصية والتقارب. مع معلمة خصوصية معتدلة قدرها $\epsilon = 1.5$، حقق الإطار متوسط دقة تصنيف تبلغ 97.3%، وهو أقل بنسبة 0.9% فقط من الحد الأعلى المركزي وأعلى بنسبة 5.2% من أفضل أسلوب أساسي (Ditto بدون خصوصية تفاضلية). من الجدير بالذكر أنه حتى تحت قيود الخصوصية الصارمة ($\epsilon = 0.5$)، حافظ MM-PFL-ADP على دقة عالية تبلغ 93.8%، متخلفًا قليلاً عن الحد الأساسي غير الخاص FedPer (94.2%) مع ضمانات قوية للخصوصية التفاضلية.
من حيث كفاءة التقارب، تطلب MM-PFL-ADP فقط 47 جولة تدريب للتقارب على بيانات محمية بواسطة DP، وهو ما يمثل انخفاضًا بنسبة 45% مقارنة بـ FedAvg (85 جولة) وانخفاضًا بنسبة 31% مقارنة بـ FedDPA (68 جولة). يُعزى تسريع واستقرار التقارب المحسن إلى استراتيجيات قص التدرج التكيفية والتجميع المخصص التي يستخدمها الإطار. بشكل عام، تشير النتائج إلى أن MM-PFL-ADP لا يحقق فقط أداءً متقدمًا في التصوير الطبي الفيدرالي، ولكنه يقدم أيضًا ضمانات خصوصية أقوى، مع $\epsilon = 1.5$ مقارنة بـ $\epsilon \geq 2.0$ في الأدبيات الحديثة.
المناقشة
تسلط قسم المناقشة في الورقة الضوء على التقدمات الكبيرة في التعلم الفيدرالي (FL) لتصنيف الصور الطبية متعددة الأنماط، مع التركيز بشكل خاص على تحسين الخصوصية والتخصيص والدقة. يحدد المؤلفون فجوة بحثية حاسمة في المنهجيات الحالية التي تطبق الخصوصية التفاضلية (DP) بشكل موحد عبر معلمات النموذج، مما يؤدي إلى عدم الكفاءة في تخصيص الخصوصية والدقة. يقترحون إطار عمل جديد، MM-PFL-ADP، الذي يستخدم معلومات فيشر لتخصيص ميزانيات الخصوصية بشكل ديناميكي على مستوى المعلمات، مما يؤدي إلى تحسين دقة بنسبة 5% مقارنة بالطرق التقليدية. بالإضافة إلى ذلك، يعزز إدخال أقنعة تخصيص ديناميكية خاصة بالعملاء الدقة بنسبة 3.1% ويحسن الخصوصية بنسبة 2.6%.
تناقش الورقة أيضًا دمج استراتيجيات القص التكيفية التي تقلل بشكل كبير من جولات التقارب بنسبة 45% مع تحسين الدقة بنسبة 2.2%. يؤكد المؤلفون أن MM-PFL-ADP يمثل تحولًا في النموذج من التعلم الفيدرالي الثابت إلى الديناميكي، حيث يتم ضبط الخصوصية والفائدة والتخصيص بدقة بناءً على خصائص البيانات. لا يعزز هذا الإطار أداء التصوير الطبي متعدد الأنماط الفيدرالي فحسب، بل يظهر أيضًا أن التخصيص يمكن أن يت coexist مع الخصوصية، مما يتعارض مع الفكرة السائدة بأنها أهداف متعارضة. بشكل عام، توفر مساهمات هذا البحث حلاً شاملاً للتحديات التي تواجه التعلم الفيدرالي، لا سيما في سياق التصوير الطبي، من خلال الاستفادة من مبادئ معلومات فيشر لعملية تعلم أكثر فعالية وأمانًا.
القيود
تتعدد قيود الإطار المقترح وتستدعي اعتبارات دقيقة. أولاً، يتسبب الإطار في زيادة الحمل الحاسوبي، خاصة في تقدير معلومات فيشر، مما يؤدي إلى زيادة تقريبية في التكلفة الحاسوبية بنسبة 10.6%. يتفاقم هذا الحمل في النماذج الفيدرالية واسعة النطاق أو عندما يكون لدى العملاء موارد محدودة. بالإضافة إلى ذلك، فإن تنفيذ محاسبة الخصوصية بناءً على الخصوصية التفاضلية المتميزة Rnyi (RDP) يقدم تعقيدات في التثبيت والتفسير، مما قد يعيق التطبيق العملي والقدرة على الشرح. يوفر الإطار الحالي اختلافات في خصوصية العملاء ولكنه يفتقر إلى حماية على مستوى المرضى أو العينات، مما قد يتطلب ضوضاء إضافية للحفاظ على ميزانية خصوصية رسمية متسقة ($\epsilon$)، مما قد يهدد دقة النموذج.
علاوة على ذلك، يقتصر البحث على مشاكل التصنيف الثنائي، مما يترك عمومية النهج في التصنيف متعدد الفئات وأنواع التصوير الأخرى غير مؤكدة. تم إجراء التجارب في بيئة محاكاة فيدرالية خاضعة للرقابة، والتي قد لا تعكس بدقة التحديات الواقعية مثل ظروف الشبكة غير المتجانسة وانقطاع العملاء، وهي عوامل قد تؤثر بشكل كبير على الأداء والاستقرار في النشر الفعلي. بينما تتناول الدراسة القوة ضد هجمات استنتاج العضوية وعكس التدرج، إلا أنها لا تستكشف بالكامل القوة المضادة ضد اضطراب المدخلات وهجمات تسميم البيانات، مما يشير إلى الحاجة إلى مزيد من التحقيق في أنظمة الذكاء الاصطناعي الطبية التي تحافظ على الخصوصية. أخيرًا، على الرغم من أن الإطار أظهر نتائج واعدة على مجموعة بيانات CheXpert، محققًا دقة تبلغ 94.1 عند $\epsilon = 1.5$، فإن التحقق الإضافي عبر مجموعات بيانات وأنماط تصوير متنوعة ضروري لتأسيس قابلية تطبيق أوسع.
DOI: https://doi.org/10.1038/s41598-026-49896-z
PMID: https://pubmed.ncbi.nlm.nih.gov/42120474
Publication Date: 2026-05-12
Author(s): Adhi Siva M et al.
Primary Topic: Privacy-Preserving Technologies in Data
Overview
The paper introduces a novel approach termed MM-PFL-ADP, designed for privacy-preserving medical image classification, achieving a classification accuracy of 97.3% while adhering to a privacy budget of $(\epsilon = 1.5, \delta = 10^{-5})$. This method ensures differential privacy (DP) for gradient updates across participating institutions, with suggestions for future work including patient-level and sample-level privacy guarantees. Key innovations of the MM-PFL-ADP framework include parameter-specific privacy allocation based on Fisher information, a dynamic personalization mechanism to accommodate client heterogeneity, integration of multi-modal attention from various MRI sequences, and an adaptive gradient clipping strategy.
These advancements effectively address the privacy-personalization-performance trilemma in federated medical AI, demonstrating that high accuracy can be achieved alongside robust privacy protections. The framework facilitates secure collaborations among healthcare institutions, enhancing diagnostic accuracy and patient care while upholding patient privacy rights. Transitioning from research to clinical applications will necessitate ongoing collaboration among machine learning experts, clinicians, privacy specialists, and policymakers to foster the development of medical AI that adequately addresses privacy issues.
Introduction
The introduction of the paper discusses the significant role of deep learning models in enhancing the accuracy of medical imaging analysis, highlighting the necessity for large-scale datasets from diverse institutions to develop robust medical AI systems. Traditional centralized machine learning approaches face challenges related to patient privacy and compliance with regulations such as GDPR and HIPAA. In contrast, Federated Learning (FL) offers a decentralized framework that enables model training on distributed data sources while preserving data privacy by only sharing model updates rather than raw data.
Despite the advantages of FL, recent studies indicate vulnerabilities to gradient-based attacks that could compromise patient privacy. To address these concerns, Differential Privacy (DP) has emerged as a method to quantify privacy loss by introducing calibrated noise into the learning process. However, implementing DP in federated settings presents challenges, including potential degradation of model accuracy, uniform privacy assumptions across clients, and difficulties arising from non-IID data distributions. Personalized Federated Learning (PFL) aims to mitigate data heterogeneity by allowing clients to maintain specialized local models tailored to their unique data distributions, which has shown to enhance model performance in medical imaging contexts. The integration of personalization with differential privacy introduces additional complexity, as varying levels of privacy protection may be required for different model components. Furthermore, multi-modal learning in medical imaging must address feature heterogeneity due to differing imaging protocols across institutions.
Methods
In this section, the authors outline the methodology employed to evaluate the effectiveness of their proposed framework, MM-PFL-ADP. They conducted a comparative analysis against seven state-of-the-art baseline methods that span various paradigms of federated learning, personalization, and differential privacy. The baseline methods include FedAvg, which serves as a standard federated learning algorithm devoid of personalization and privacy measures; FedProx, which incorporates a local term to mitigate client heterogeneity; and FedPer, which applies personalization solely to the last classification layer while maintaining a shared feature extractor.
Additionally, the authors reference Ditto, which optimizes both global and personalized models through a regularization-based multi-objective approach, and DP-FedAvg, an adaptation of FedAvg that integrates uniform differential privacy (DP) noise into model updates. FedDPA further enhances privacy and personalization by utilizing Fisher information for dynamic parameter sharing under DP constraints. Lastly, a Centralized (Upper Bound) model was established by aggregating all client data centrally under DP, serving as an ideal performance benchmark for comparison.
Results
The results of the study demonstrate that the proposed MM-PFL-ADP framework significantly outperforms existing federated learning baselines in terms of accuracy, privacy, and convergence. With a moderate privacy parameter of $\epsilon = 1.5$, the framework achieved an average classification accuracy of 97.3%, which is only 0.9% lower than the centralized upper bound and 5.2% higher than the best baseline (Ditto without differential privacy). Notably, even under stringent privacy constraints ($\epsilon = 0.5$), MM-PFL-ADP maintained a high accuracy of 93.8%, closely trailing the non-private FedPer baseline (94.2%) while ensuring robust differential privacy guarantees.
In terms of convergence efficiency, MM-PFL-ADP required only 47 training rounds to converge on DP-protected data, which is a 45% reduction compared to FedAvg (85 rounds) and a 31% reduction compared to FedDPA (68 rounds). The enhanced convergence speed and stability are attributed to the adaptive gradient clipping and personalized aggregation strategies employed by the framework. Overall, the findings indicate that MM-PFL-ADP not only achieves state-of-the-art performance in federated medical imaging but also offers stronger privacy guarantees, with $\epsilon = 1.5$ compared to $\epsilon \geq 2.0$ in recent literature.
Discussion
The discussion section of the paper highlights significant advancements in federated learning (FL) for multi-modal medical image classification, specifically addressing the optimization of privacy, personalization, and accuracy. The authors identify a critical research gap in existing methodologies that uniformly apply differential privacy (DP) across model parameters, leading to inefficiencies in privacy allocation and accuracy. They propose a novel framework, MM-PFL-ADP, which utilizes Fisher information to adaptively allocate privacy budgets at the parameter level, resulting in a 5% accuracy improvement compared to traditional methods. Additionally, the introduction of dynamic client-specific personalization masks enhances accuracy by 3.1% and improves privacy by 2.6%.
The paper also discusses the integration of adaptive clipping strategies that significantly reduce convergence rounds by 45% while improving accuracy by 2.2%. The authors emphasize that MM-PFL-ADP represents a paradigm shift from fixed to dynamic federated learning, where privacy, utility, and personalization are finely tuned based on data characteristics. This framework not only enhances the performance of federated multi-modal medical imaging but also demonstrates that personalization can coexist with privacy, countering the prevailing notion that they are mutually exclusive goals. Overall, the contributions of this research provide a comprehensive solution to the challenges faced in federated learning, particularly in the context of medical imaging, by leveraging the principles of Fisher information for a more effective and secure learning process.
Limitations
The limitations of the proposed framework are multifaceted and warrant careful consideration. Firstly, the framework incurs a computational overhead, particularly in estimating Fisher information, resulting in an approximate 10.6% increase in computational cost. This overhead is exacerbated in large-scale federated models or when clients have limited resources. Additionally, the implementation of privacy accounting based on Rnyi Differentiated Privacy (RDP) introduces complexities in installation and interpretation, potentially hindering practical application and explainability. The current framework provides client-level privacy differentials but lacks patient-level or sample-level protections, which could necessitate additional noise to maintain a consistent formal privacy budget ($\epsilon$), potentially compromising model accuracy.
Moreover, the research is limited to binary classification problems, leaving the generalizability of the approach to multi-class classification and other imaging types unverified. The experiments were conducted in a controlled federated simulation environment, which may not accurately reflect real-world challenges such as heterogeneous network conditions and client dropouts, factors that could significantly impact performance and stability in actual deployments. While the study addresses robustness against membership inference and gradient inversion attacks, it does not fully explore adversarial robustness against input perturbation and data poisoning attacks, indicating a need for further investigation in privacy-preserving medical AI systems. Lastly, although the framework demonstrated promising results on the CheXpert dataset, achieving an accuracy of 94.1 at $\epsilon = 1.5$, further validation across diverse datasets and imaging modalities is essential for establishing broader applicability.