DOI: https://doi.org/10.1007/s11227-026-08399-4
تاريخ النشر: 2026-03-10
المؤلف: Xudong Wang وآخرون
الموضوع الرئيسي: الشبكات العصبية المتقدمة
نظرة عامة
تقدم الورقة البحثية UFGraphFR، وهو إطار عمل جديد للتوصيات الفيدرالية يعزز التوصيات الشخصية مع الحفاظ على خصوصية المستخدم. تعالج الأساليب التقليدية للتعلم الفيدرالي المستخدمين ككيانات معزولة، مما يحد من القدرة على التقاط الإشارات التعاونية الضرورية لتحسين دقة التوصيات. يتناول UFGraphFR هذا القيد من خلال بناء رسم بياني عالمي لعلاقات المستخدمين باستخدام أوصافهم النصية كإشارات بديلة، مما يتجنب الحاجة إلى بيانات التفاعل الخام. يتكون الإطار من ثلاثة مكونات رئيسية: (1) تحويل البيانات الهيكلية الخاصة إلى أوصاف نصية وترميزها إلى متجهات دلالية على جانب العميل؛ (2) إعادة بناء رسم بياني لعلاقات المستخدمين على جانب الخادم باستخدام فقط أوزان النموذج التي تم تحميلها من قبل العملاء، مع استخدام شبكة عصبية رسومية خفيفة لنشر المعلومات؛ و (3) نمذجة تسلسل سلوك المستخدم الفردي باستخدام بنية Transformer لالتقاط الاعتمادات طويلة الأجل.
تظهر التجارب الواسعة على أربعة مجموعات بيانات معيارية أن UFGraphFR يتفوق بشكل كبير على كل من نماذج التوصيات المركزية والفيدرالية، بما في ذلك نموذج GPFedRec الأساسي، من حيث دقة التوصيات (HR@10) والتخصيص (NDCG@10). يعمل الإطار بشكل فعال على التخفيف من التحديات التي تطرحها عزل بيانات المستخدم في الأنظمة الفيدرالية وينقل المهام الحاسوبية المكثفة إلى مجموعات الحوسبة عالية الأداء (HPC)، مما يجعله مناسبًا لمهام التوصيات في الوقت الحقيقي مع الحفاظ على الخصوصية. ستستكشف الأعمال المستقبلية دمج التقنيات التشفيرية وخصوصية التفاضل الرسمية لتعزيز ضمانات الخصوصية للإطار بشكل أكبر. بشكل عام، يمثل UFGraphFR تقدمًا كبيرًا في ربط التعلم الفيدرالي مع متطلبات بيئات الحوسبة الفائقة القابلة للتوسع.
مقدمة
في سياق البيانات الكبيرة ومخاوف الخصوصية، تلعب أنظمة التوصيات الذكية دورًا حاسمًا في تقديم خدمات رقمية مخصصة. ومع ذلك، فإن الأساليب المركزية التقليدية التي تجمع بيانات المستخدمين تطرح مخاطر خصوصية كبيرة، مما يؤدي إلى تردد المستخدمين في مشاركة المعلومات الشخصية. ظهر التعلم الفيدرالي كحل قابل للتطبيق، مما يسمح بتدريب النماذج التعاونية مع الحفاظ على بيانات المستخدم محلية. على الرغم من مزاياه، تواجه أنظمة التوصيات الفيدرالية الحالية قيودًا بسبب عزل سجلات تفاعل المستخدمين مع العناصر، مما يحد من الوصول إلى مصفوفة تفاعل المستخدمين والعناصر العالمية. تعيق هذه القيود القدرة على الاستفادة من الترابطات المعقدة بين المستخدمين والإشارات التعاونية التي تُستخدم عادةً في الأنظمة المركزية.
لمعالجة هذه التحديات، تقدم هذه الورقة إطار عمل جديد للتوصيات الفيدرالية المخصصة يسمى UFGraphFR (رسم بياني لخصائص وصف النص للمستخدم). يسعى هذا الإطار إلى بناء “رسم بياني لعلاقات المستخدمين” دون الكشف عن البيانات الخام من خلال تحويل السمات الهيكلية المحلية إلى أوصاف نصية ورسمها في فضاء دلالي موحد باستخدام نماذج لغوية مدربة مسبقًا. تشمل المساهمات الرئيسية لـ UFGraphFR الاستخدام المبتكر لأوصاف النصوص الخاصة بالمستخدمين لبناء رسوم بيانية لعلاقات المستخدمين، وإطار تعلم آمن يقوم بترميز البيانات الخاصة إلى متجهات دلالية، والقدرة على إعادة بناء رسوم بيانية لعلاقات المستخدمين على جانب الخادم دون الوصول إلى البيانات الخام. تظهر التجارب الشاملة تفوق الإطار في دقة التوصيات، والتخصيص، والموثوقية، مما يشير إلى إمكانيته في تعزيز أنظمة التوصيات الفيدرالية مع الحفاظ على خصوصية المستخدم.
الطرق
في هذا القسم، يصف المؤلفون المنهجية لنظام التوصيات الفيدرالية القائم على ميزات وصف النص للمستخدم (UFGraphFR). تتكون العملية من أربع خطوات رئيسية في كل جولة تواصل. أولاً، خلال التدريب المحلي، يقوم العملاء بتهيئة تجسيدات المشروع باستخدام المعلمات العالمية وتدريب نماذج التوصيات الخاصة بهم باستخدام بيانات التفاعل الخاصة. بعد ذلك، في مرحلة تحميل المعلمات، يرسل العملاء أوزان تجسيد المستخدم المشترك وتجسيدات العناصر المحلية إلى الخادم.
تتضمن الخطوة الثالثة، تجميع الرسوم البيانية، قيام الخادم ببناء رسوم بيانية لعلاقات المستخدمين من تجسيدات النص وتجميع المعلمات من خلال الالتفاف الرسومي. أخيرًا، في مرحلة التوزيع العالمي، يقوم الخادم ببث تجسيدات العناصر العالمية المحدثة إلى جميع العملاء، مما يعدهم للجولة التالية من التهيئة. يشير المؤلفون إلى أنه سيتم تقديم مزيد من التفاصيل حول UFGraphFR، مدعومة برسم توضيحي.
نقاش
يناقش القسم التقدمات والتحديات في أنظمة التوصيات الفيدرالية (FedRS)، التي توسع التعلم الفيدرالي (FL) لتعزيز التوصيات الشخصية مع حماية خصوصية المستخدم. تتطلب أنظمة التوصيات المركزية التقليدية من المستخدمين تحميل بياناتهم إلى خادم، مما يطرح مخاطر الخصوصية. في المقابل، يسمح FedRS للعملاء بتدريب نماذج محلية باستخدام بياناتهم دون مشاركتها، ثم تجميع معلمات النموذج على الخادم. ظهرت أطر FedRS متنوعة، مثل FedMF وFedNCF، كل منها يعالج قيودًا محددة مثل الترابط بين المستخدمين ومخاوف الخصوصية. من الجدير بالذكر أن أساليب مثل FedPerGNN وFedSI تستفيد من آليات موجهة بالرسوم البيانية واستدلال بايزي لتحسين دقة التوصيات مع الحفاظ على الخصوصية.
على الرغم من هذه التقدمات، لا يزال هناك تحدٍ كبير في التقاط الترابطات بين المستخدمين بشكل فعال دون المساس بالخصوصية. تهدف الاقتراحات الحديثة، مثل GPFedRec وCFedGR، إلى بناء رسوم بيانية للمستخدمين والمستخدمين-العناصر لتعزيز أداء التوصيات. ومع ذلك، لا تزال العديد من الأساليب الحالية تعتمد على معرفات المستخدمين، مما يحد من تعبيرها الدلالي وقدراتها على التعميم. لمعالجة ذلك، يقترح المؤلفون نهجًا جديدًا يجمع بين FedRS الموجه بالرسوم البيانية والمعتمد على نماذج اللغة، مستفيدين من نماذج اللغة المدربة مسبقًا لبناء رسوم بيانية لعلاقات المستخدمين مع ضمان الخصوصية. بالإضافة إلى ذلك، يبرز القسم أهمية استراتيجيات اختيار العملاء في التعلم الفيدرالي، مشيرًا إلى أن الاختيار العشوائي قد يؤدي إلى تقارب غير مثالي للنموذج بسبب تباين العملاء. بشكل عام، يؤكد النقاش على الحاجة المستمرة لحلول مبتكرة في FedRS لتحقيق التوازن بين التخصيص والخصوصية والكفاءة الحاسوبية.
القيود
تشمل قيود نموذج UFGraphFR، بينما يظهر دقة متفوقة في التعلم الفيدرالي (FL) للتوصيات، زيادة كبيرة في الحمل الحاسوبي والتواصل مقارنة بالنماذج الأبسط مثل GPFedRec. ينشأ هذا الحمل بشكل أساسي من عمليات بناء الرسوم البيانية والتجميع. تهدف اتجاهات البحث المستقبلية إلى تعزيز كفاءة النموذج من خلال استكشاف متغيرات Transformer خفيفة، واستراتيجيات تحديث الرسوم البيانية الديناميكية، وهياكل الشبكات العصبية الرسومية الأكثر كفاءة، مثل متغير UFGraphFR-Lite.
بالإضافة إلى ذلك، على الرغم من أن الإطار يخفف من تعرض البيانات الخام، إلا أن نقل أوزان تجسيد المستخدمين لبناء الرسوم البيانية قد لا يزال يقدم مخاطر استدلال. لمعالجة هذه المخاوف المتعلقة بالخصوصية، ستستكشف الأعمال المستقبلية دمج تقنيات تشفير متقدمة، مثل التشفير المتجانس، وآليات خصوصية تفاضلية مصقولة لتعزيز الأمان أثناء المعالجة على جانب الخادم. علاوة على ذلك، فإن التركيز الحالي للنموذج على الميزات النصية على جانب المستخدم يقدم فرصة للتحسين من خلال دمج الميزات النصية على جانب العناصر، مما قد يعزز جودة التوصيات، وأداء البداية الباردة، وقابلية التفسير مع الحفاظ على الخصوصية في السياق الفيدرالي.
DOI: https://doi.org/10.1007/s11227-026-08399-4
Publication Date: 2026-03-10
Author(s): Xudong Wang et al.
Primary Topic: Advanced Graph Neural Networks
Overview
The research paper introduces UFGraphFR, a novel federated recommendation framework that enhances personalized recommendations while preserving user privacy. Traditional federated learning approaches treat users as isolated entities, which limits the ability to capture collaborative signals essential for improving recommendation accuracy. UFGraphFR addresses this limitation by constructing a global user relationship graph using users’ textual descriptions as proxy signals, thus avoiding the need for raw interaction data. The framework consists of three main components: (1) transforming private structured data into textual descriptions and encoding them into semantic vectors on the client side; (2) reconstructing the user relationship graph on the server side using only model weights uploaded by clients, employing a lightweight graph neural network for information propagation; and (3) modeling individual user behavior sequences with a Transformer architecture to capture long-term dependencies.
Extensive experiments on four benchmark datasets demonstrate that UFGraphFR significantly outperforms both centralized and federated recommendation models, including the baseline GPFedRec, in terms of recommendation accuracy (HR@10) and personalization (NDCG@10). The framework effectively mitigates the challenges posed by user data isolation in federated systems and offloads computationally intensive tasks to high-performance computing (HPC) clusters, making it suitable for real-time, privacy-preserving recommendation tasks. Future work will explore the integration of cryptographic techniques and formal differential privacy to further enhance the framework’s privacy guarantees. Overall, UFGraphFR represents a significant advancement in bridging federated learning with the demands of scalable supercomputing environments.
Introduction
In the context of big data and privacy concerns, intelligent recommendation systems play a crucial role in delivering personalized digital services. However, traditional centralized approaches that aggregate user data pose significant privacy risks, leading to user hesitance in sharing personal information. Federated learning has emerged as a viable solution, allowing collaborative model training while keeping user data localized. Despite its advantages, existing federated recommendation systems face limitations due to the isolation of user-item interaction records, which restricts access to a global user-item interaction matrix. This limitation hinders the ability to leverage complex user correlations and collaborative signals that are typically utilized in centralized systems.
To address these challenges, this paper introduces a novel framework for personalized federated recommendation called UFGraphFR (User text-description Feature Graph Federated Rec). This framework seeks to construct a ‘user relationship graph’ without exposing raw data by transforming local structured attributes into textual descriptions and mapping them into a unified semantic space using pre-trained language models. The key contributions of UFGraphFR include the innovative use of user text descriptions for constructing user relation graphs, a secure learning framework that encodes private data into semantic vectors, and the ability to reconstruct user relation graphs on the server side without accessing raw data. Comprehensive experiments demonstrate the framework’s superiority in recommendation accuracy, personalization, and robustness, indicating its potential to enhance federated recommendation systems while preserving user privacy.
Methods
In this section, the authors describe the methodology for the Graph Federation Recommendation System based on User Text description features (UFGraphFR). The process consists of four key steps in each communication round. First, during Local Training, clients initialize project embeddings using global parameters and train their recommendation models with private interaction data. Next, in the Parameter Uploading phase, clients send their user joint embedding weights and local item embeddings to the server.
The third step, Graph Aggregation, involves the server constructing user relation graphs from the text embeddings and aggregating the parameters through graph convolution. Finally, in the Global Distribution phase, the server broadcasts the updated global item embeddings to all clients, preparing them for the next round of initialization. The authors indicate that further details on the UFGraphFR will be provided, supported by an illustrative figure.
Discussion
The section discusses the advancements and challenges in Federated Recommendation Systems (FedRS), which extend Federated Learning (FL) to enhance personalized recommendations while safeguarding user privacy. Traditional centralized recommendation systems require users to upload their data to a server, posing privacy risks. In contrast, FedRS allows clients to train local models using their data without sharing it, subsequently aggregating model parameters at the server. Various FedRS frameworks have emerged, such as FedMF and FedNCF, each addressing specific limitations like user correlation and privacy concerns. Notably, approaches like FedPerGNN and FedSI leverage graph-guided mechanisms and Bayesian inference to improve recommendation accuracy while maintaining privacy.
Despite these advancements, a significant challenge remains in effectively capturing user correlations without compromising privacy. Recent proposals, such as GPFedRec and CFedGR, aim to construct user-user and user-item graphs to enhance recommendation performance. However, many existing methods still rely on user IDs, limiting their semantic expressiveness and generalization capabilities. To address this, the authors propose a novel approach that combines graph-guided and language model-based FedRS, utilizing pre-trained language models to construct user relationship graphs while ensuring privacy. Additionally, the section highlights the importance of client selection strategies in federated learning, noting that random selection may lead to suboptimal model convergence due to client heterogeneity. Overall, the discussion emphasizes the ongoing need for innovative solutions in FedRS to balance personalization, privacy, and computational efficiency.
Limitations
The limitations of the UFGraphFR model, while demonstrating superior accuracy in federated learning (FL) for recommendations, include significant computational and communication overhead compared to simpler models like GPFedRec. This overhead arises primarily from the graph construction and aggregation processes. Future research directions aim to enhance model efficiency by exploring lightweight Transformer variants, dynamic graph updating strategies, and more efficient graph neural network architectures, such as the UFGraphFR-Lite variant.
Additionally, although the framework mitigates raw data exposure, the transmission of user embedding weights for graph construction may still introduce inference risks. To address these privacy concerns, future work will investigate the integration of advanced cryptographic techniques, such as homomorphic encryption, and refined differential privacy mechanisms to bolster security during server-side processing. Furthermore, the current model’s focus on user-side textual features presents an opportunity for improvement by incorporating item-side textual features, which could enhance recommendation quality, cold-start performance, and interpretability while maintaining privacy in the federated context.