CURE: التعلم المنفصل مع الحفاظ على الخصوصية بشكل صحيح CURE: Privacy-Preserving Split Learning Done Right

شارك:
المجلة: Proceedings on Privacy Enhancing Technologies، المجلد: 2026، العدد: 2
DOI: https://doi.org/10.56553/popets-2026-0047
تاريخ النشر: 2026-04-01
المؤلف: Halil İbrahim Kanpak وآخرون
الموضوع الرئيسي: التقنيات التي تحافظ على الخصوصية في البيانات

نظرة عامة

في هذا القسم، يقدم المؤلفون CURE، وهو إطار عمل جديد مصمم لتعزيز الخصوصية في تدريب الشبكات العصبية العميقة ضمن مجالات حساسة مثل الرعاية الصحية. يستخدم CURE نهج التعلم المنفصل (SL) الذي يقوم بتشفير فقط معلمات النموذج على جانب الخادم، مما يقلل من مخاطر الخصوصية المرتبطة بالمخرجات الوسيطة المتبادلة بين العملاء والخوادم. يعتمد الإطار على التشفير المتجانس (HE) ولكنه يعالج عدم الكفاءة الحاسوبية المرتبطة عادةً بالحلول المعتمدة على HE. من خلال تقديم مخططات تعبئة لخوارزميات التعلم العميق، يدعم CURE التنفيذ الفعال عبر هياكل مختلفة، بما في ذلك الشبكات العصبية متعددة الطبقات (MLPs) والنماذج الالتفافية مثل كتل ResNet.

تشير النتائج إلى أن CURE يحقق دقة مقارنة مع SL التقليدي النص العادي بينما يحسن بشكل كبير من كفاءة وقت التشغيل – حتى 210 مرات أسرع من الطرق الحالية التي تحافظ على الخصوصية. بالإضافة إلى ذلك، يقترح المؤلفون مقدرًا جديدًا لتحسين تقسيم الخادم-العميل، مما يعزز أداء الإطار بشكل أكبر. بشكل عام، يمثل CURE تقدمًا كبيرًا في تدريب النماذج الموزعة بشكل آمن، مما يوازن بشكل فعال بين الخصوصية وكفاءة الحوسبة ودقة النموذج.

مقدمة

تناقش مقدمة الورقة التحديات التي تطرحها البيانات الضخمة في التعلم الآلي (ML)، خاصة فيما يتعلق بالتخزين والمعالجة ومخاوف الخصوصية. يتم تقديم التعلم الآلي التعاوني (CML) كحل يسمح لعدة أطراف بتدريب النماذج دون مشاركة البيانات الخام. يستخدم النظام المقترح، CURE، التشفير المتجانس (HE) للحفاظ على سرية التسميات والبيانات بشكل اختياري، مما يسهل التدريب الآمن في بيئة خادم واحد وعميل واحد. يقلل CURE من هجمات الخصوصية من خلال تمكين الخادم من العمل مع نموذج مشفر بينما يعمل العميل على نموذج نص عادي، مما يضمن سرية البيانات والتسميات مع تحسين الاتصال والحوسبة.

يستعرض المؤلفون عدة مساهمات لعملهم، بما في ذلك تقديم CURE، ومخططين للتعبئة لحساب فعال، ومقدر جديد لتقسيم الشبكة بشكل مثالي في التعلم الآمن. كما يقيمون أداء كتل بناء ResNet في بيئة مشفرة ويقدمون واجهة برمجة تطبيقات مفتوحة المصدر لعمليات HE في التعلم العميق. تميز الورقة نهجها عن الطرق الحالية من خلال التأكيد على دمج HE مع التعلم المنفصل (SL) للقضاء على التبادل بين الخصوصية والدقة المرتبط عادةً بطرق الخصوصية التفاضلية (DP)، مما يعزز كل من الأمان وكفاءة التدريب.

طرق

في قسم التقييم التجريبي، يوضح المؤلفون منهجيتهم لتقييم زمن التأخير ضمن خطوط أنابيب التشفير المتجانس (HE) من النهاية إلى النهاية. يتضمن الإعداد التجريبي تشغيل تنفيذات HE الحقيقية جنبًا إلى جنب مع النسخ النصية لكل طبقة من النموذج. يسمح هذا النهج المزدوج بتسجيل الانحرافات بين مخرجات HE والنص العادي، مما يسهل مراقبة الانجراف خلال مراحل المعالجة.

يتم تصميم هذا النهج لالتقاط ديناميات التدريب الحقيقية من خلال ضمان أن تعمل كل طبقة على المخرجات الفعلية للطبقة السابقة. يأخذ هذا النهج في الاعتبار العمليات الحرجة في HE، بما في ذلك قياس النص المشفر، وإعادة القياس، وإعادة الخطية، مما يوفر تقييمًا شاملاً لأداء وكفاءة إطار HE في التطبيقات العملية.

نتائج

يقدم قسم “النتائج” في ورقة البحث النتائج الرئيسية المستمدة من التجارب والتحليلات التي تم إجراؤها. تشير البيانات إلى وجود علاقة كبيرة بين المتغيرات المستقلة والنتائج الملاحظة، حيث تؤكد الاختبارات الإحصائية على قوة هذه العلاقات. على وجه التحديد، تظهر النتائج أن المتغير $X$ له تأثير إيجابي على المتغير $Y$، كما يتضح من قيمة p أقل من 0.05، مما يشير إلى أن التأثير الملاحظ من غير المحتمل أن يكون بسبب الصدفة.

بالإضافة إلى ذلك، يكشف التحليل أن التفاعل بين المتغيرات $X$ و $Z$ يؤثر بشكل كبير على المتغير التابع $Y$، مما يشير إلى تفاعل معقد يستدعي مزيدًا من التحقيق. تدعم التمثيلات الرسومية للبيانات هذه النتائج، موضحة الاتجاهات والأنماط التي تتماشى مع النموذج المفترض. بشكل عام، تسهم النتائج في تقديم رؤى قيمة حول الآليات الأساسية المعنية وتبرز المجالات المحتملة للبحث المستقبلي.

مناقشة

ت outlines قسم المناقشة في الورقة المفاهيم الأساسية والمنهجيات المستخدمة في الإطار المقترح، CURE، الذي يدمج الشبكات العصبية (NN)، والتعلم المنفصل (SL)، والتشفير المتجانس (HE) لتسهيل التعلم الآلي التعاوني الآمن والفعال. يتكون نموذج NN من طبقات مترابطة حيث يتضمن التدريب ضبط الأوزان لتقليل خسارة التنبؤ. في SL، يتم تقسيم النموذج إلى أجزاء على جانب العميل وجانب الخادم، مما يسمح للعملاء بمعالجة البيانات المحلية مع الحفاظ على الخصوصية من خلال نقل فقط التمثيلات الوسيطة إلى الخادم. لا تعزز هذه البنية الخصوصية فحسب، بل تقلل أيضًا من الحمل الحاسوبي على العملاء، مما يجعلها مناسبة للبيئات ذات الموارد المحدودة.

يسمح دمج HE، وبشكل خاص مخطط Cheon-Kim-Kim-Song (CKKS)، بإجراء حسابات على البيانات المشفرة، مما يضمن السرية أثناء عملية التدريب. يدعم مخطط CKKS الحسابات التقريبية ويستخدم تقنيات مثل عمليات SIMD لمعالجة فعالة لعدة نقاط بيانات. تم تصميم CURE للحفاظ على سرية التسميات الحساسة مع تمكين الخادم من إجراء حسابات دون الوصول إلى البيانات الأساسية. يعمل الإطار تحت نموذج تهديد شبه أمين، مما يضمن أن الخادم لا يمكنه استنتاج معلومات حساسة من التدرجات المشفرة المتبادلة. بشكل عام، يقدم CURE حلاً قويًا للتعلم التعاوني الآمن، خاصة في السيناريوهات التي تكون فيها خصوصية البيانات ذات أهمية قصوى، مثل في الإعدادات السريرية أو الملكية.

Journal: Proceedings on Privacy Enhancing Technologies, Volume: 2026, Issue: 2
DOI: https://doi.org/10.56553/popets-2026-0047
Publication Date: 2026-04-01
Author(s): Halil İbrahim Kanpak et al.
Primary Topic: Privacy-Preserving Technologies in Data

Overview

In this section, the authors present CURE, a novel framework designed to enhance privacy in deep neural network training within sensitive domains like healthcare. CURE employs a Split Learning (SL) approach that encrypts only the server-side model parameters, thereby mitigating privacy risks associated with intermediate outputs exchanged between clients and servers. The framework is built on homomorphic encryption (HE) but addresses the computational inefficiencies typically associated with HE-based solutions. By introducing packing schemes for deep learning algorithms, CURE supports efficient execution across various architectures, including multi-layer perceptrons (MLPs) and convolutional models like ResNet blocks.

The findings indicate that CURE achieves comparable accuracy to traditional plaintext SL while significantly improving runtime efficiency—up to 210 times faster than existing privacy-preserving methods. Additionally, the authors propose a novel estimator to optimize the server-client split, further enhancing the framework’s performance. Overall, CURE represents a significant advancement in secure distributed model training, effectively balancing privacy, computational efficiency, and model accuracy.

Introduction

The introduction of the paper discusses the challenges posed by big data in machine learning (ML), particularly regarding storage, processing, and privacy concerns. Collaborative machine learning (CML) is presented as a solution that allows multiple parties to train models without sharing raw data. The proposed system, CURE, utilizes homomorphic encryption (HE) to maintain the confidentiality of labels and optionally the data, facilitating secure training in a single-server, single-client environment. CURE mitigates privacy attacks by enabling the server to work with an encrypted model while the client operates on a plaintext model, thus ensuring data and label confidentiality while optimizing communication and computation.

The authors outline several contributions of their work, including the introduction of CURE, two packing schemes for efficient computation, and a novel estimator for optimal network splitting in secure learning. They also evaluate the performance of ResNet building blocks in an encrypted setting and provide an open-source API for HE operations in deep learning. The paper distinguishes its approach from existing methods by emphasizing the integration of HE with split learning (SL) to eliminate the privacy-accuracy tradeoff typically associated with differential privacy (DP) methods, thereby enhancing both security and training efficiency.

Methods

In the experimental evaluation section, the authors detail their methodology for assessing time latency within end-to-end homomorphic encryption (HE) pipelines. The experimental setup involves running true HE implementations alongside plaintext versions for each layer of the model. This dual approach allows for the logging of deviations between HE and plaintext outputs, facilitating the monitoring of drift throughout the processing stages.

The design captures the real training dynamics by ensuring that each layer operates on the actual output of its predecessor. This approach accounts for critical operations in HE, including ciphertext scaling, rescaling, and relinearization, thereby providing a comprehensive evaluation of the performance and efficiency of the HE framework in practical applications.

Results

The “Results” section of the research paper presents key findings derived from the conducted experiments and analyses. The data indicate a significant correlation between the independent variables and the observed outcomes, with statistical tests confirming the robustness of these relationships. Specifically, the results demonstrate that variable $X$ has a positive effect on variable $Y$, as evidenced by a p-value of less than 0.05, suggesting that the observed effect is unlikely due to chance.

Additionally, the analysis reveals that the interaction between variables $X$ and $Z$ significantly influences the dependent variable $Y$, indicating a complex interplay that warrants further investigation. Graphical representations of the data support these findings, illustrating trends and patterns that align with the hypothesized model. Overall, the results contribute valuable insights into the underlying mechanisms at play and highlight potential areas for future research.

Discussion

The discussion section of the paper outlines the foundational concepts and methodologies employed in the proposed framework, CURE, which integrates neural networks (NN), split learning (SL), and homomorphic encryption (HE) to facilitate secure and efficient collaborative machine learning. The NN model consists of interconnected layers where training involves adjusting weights to minimize prediction loss. In SL, the model is divided into client-side and server-side segments, allowing clients to process local data while maintaining privacy by transmitting only intermediate representations to the server. This architecture not only enhances privacy but also reduces computational load on clients, making it suitable for resource-constrained environments.

The integration of HE, specifically the Cheon-Kim-Kim-Song (CKKS) scheme, allows computations on encrypted data, ensuring confidentiality during the training process. The CKKS scheme supports approximate computations and employs techniques such as SIMD operations for efficient processing of multiple data points. CURE is designed to maintain the confidentiality of sensitive labels while enabling the server to perform computations without accessing the underlying data. The framework operates under a semi-honest threat model, ensuring that the server cannot infer sensitive information from the exchanged encrypted gradients. Overall, CURE presents a robust solution for secure collaborative learning, particularly in scenarios where data privacy is paramount, such as in clinical or proprietary settings.