DOI: https://doi.org/10.1038/s41598-025-08931-1
PMID: https://pubmed.ncbi.nlm.nih.gov/40628873
تاريخ النشر: 2025-07-08
المؤلف: Hikmat Ullah Khan وآخرون
الموضوع الرئيسي: أنظمة وتقنيات التوصية
نظرة عامة
تناقش ورقة البحث تطوير بنية جديدة قائمة على المحولات لأنظمة التوصية، تستهدف بشكل خاص توصيات الأفلام. النموذج المقترح، الذي يحمل اسم MetaBERTTransformer4Rec (MBT4R)، يستفيد من آلية الانتباه الذاتي لالتقاط تفضيلات المستخدمين بفعالية من خلال التفاعلات السابقة والبيانات الوصفية السياقية. تظهر التحليلات التجريبية على مجموعة بيانات MovieLens أن MBT4R يتفوق على النماذج التقليدية، محققًا خطأ الجذر التربيعي المتوسط (RMSE) قدره 0.62، وخطأ مطلق متوسط (MAE) قدره 0.45، ومعامل تحديد (R²) قدره 0.39، مما يشير إلى تحسينات كبيرة في دقة التنبؤ ورضا المستخدمين.
تؤكد الدراسة على أهمية تقنيات الذكاء الاصطناعي المتقدمة في تعزيز أنظمة التوصية وتقترح اتجاهات بحث مستقبلية. تشمل هذه الاتجاهات استكشاف التصفية المعتمدة على المحتوى مع ميزات إضافية مثل المعلومات الديموغرافية والسياقية، وتقييم قابلية تكيف MBT4R عبر مجالات متنوعة (مثل الموسيقى، الكتب)، ودمج الشبكات العصبية الرسومية لالتقاط العلاقات المعقدة بين المستخدمين والعناصر بشكل أفضل. كما تعترف الورقة بالاعتبارات الأخلاقية المتعلقة بخصوصية بيانات المستخدم وتقترح حلولًا مثل إخفاء الهوية. بينما يظهر MBT4R أداءً قويًا، فإنه يواجه قيودًا في سيناريوهات البداية الباردة والشفافية، مما يقترح مجالات لمزيد من التحقيق لتعزيز تفاعل المستخدم وجودة التوصية من خلال دمج البيانات متعددة الأنماط.
طرق
تستخدم البحث منهجية منظمة لتصميم وتقييم نظام توصية أفلام يعتمد على التصفية التعاونية (CF) باستخدام المحولات المتقدمة في التعلم العميق. تم هيكلة المنهجية في عدة خطوات متسلسلة، بما في ذلك جمع البيانات، إعداد البيانات، اختيار الخوارزمية، بناء النموذج، وتقييم النموذج. يتم تمثيل هذا الإطار المنظم بصريًا في الشكل 2، مما يساعد في فهم العملية العامة وتدفق البحث. تضمن الطريقة المنهجية تقييمًا شاملاً لأداء نظام التوصية، مستفيدة من قدرات تقنيات التعلم العميق المعاصرة.
النتائج
تظهر نتائج هذه الدراسة فعالية نماذج التوصية المختلفة، مع التركيز بشكل خاص على تقنيات التصفية التعاونية. تبرز مقاييس التقييم المستخدمة—خطأ الجذر التربيعي المتوسط (RMSE)، خطأ مطلق متوسط (MAE)، وR²—قدرات التنبؤ والقوة التفسيرية للنماذج. من بين النماذج المقارنة، تفوق MetaBERTTransformer4Rec (MBT4R) على الطرق التقليدية مثل أشجار القرار (DT)، الجيران الأقرب (KNN)، الغابة العشوائية (RF)، وXGBoost (XGB)، بالإضافة إلى تقنيات تحليل المصفوفات مثل تحليل القيمة الفردية (SVD). على وجه التحديد، حقق MBT4R RMSE قدره 0.62، MAE قدره 0.45، وR² قدره 0.91، مما يشير إلى دقة تنبؤ متفوقة وتعميم.
كما كشفت التحليلات أن تقييمات المستخدمين تركزت بشكل أساسي حول الدرجات الأعلى (3 إلى 5)، مما يشير إلى تفضيل التقييمات المنفصلة على التقييمات الكسرية. أظهرت تحليل الأنواع أن الدراما والكوميديا كانت الأكثر تفضيلًا، بينما جذبت أنواع الرعب والفانتازيا اهتمامًا أقل. تؤكد النتائج على أهمية النماذج المتقدمة، وخاصة تلك التي تستخدم بنى المحولات، في التقاط التفاعلات المعقدة بين المستخدمين والعناصر والمعلومات السياقية. تشير النتائج أيضًا إلى أنه بينما توفر نماذج التعلم الآلي التقليدية فهمًا أساسيًا، فإن أساليب التعلم العميق، خاصة تلك التي تدمج آليات الانتباه والبيانات متعددة الأنماط، ضرورية لتحقيق أداء متقدم في أنظمة التوصية.
نقاش
في هذا البحث، تم تطوير نظام توصية أفلام يعتمد على التصفية التعاونية باستخدام خمس منهجيات ذكاء اصطناعي متميزة: التعلم الآلي، التعلم الجماعي، تحليل المصفوفات، التعلم العميق، ونماذج قائمة على المحولات. تضمن النظام تصنيفات المستخدمين والأفلام، والأنواع، وعلاقات المستخدمين بالعناصر لتعزيز دقة التوصية. تضمنت النماذج الرئيسية المستخدمة الجيران الأقرب (kNN)، أشجار القرار (DT)، الغابة العشوائية (RF)، تعزيز التدرج المتطرف (XGBoost)، تحليل القيمة الفردية (SVD)، وحدات التكرار المغلقة (GRU)، وبنية جديدة قائمة على المحولات، MetaBERTTransformer4Rec (MBT4R). تم استخدام مقاييس الأداء مثل خطأ الجذر التربيعي المتوسط (RMSE)، خطأ مطلق متوسط (MAE)، وR-Squared (R²) لتقييم فعالية النموذج، حيث أظهر MBT4R أداءً تنبؤيًا متفوقًا (MAE قدره 0.45، RMSE قدره 0.62، R² قدره 0.91) مقارنة بالنماذج التقليدية.
تسلط الدراسة الضوء على أهمية معالجة التحديات في التصفية التعاونية، مثل ندرة البيانات ومشكلات البداية الباردة، مع التأكيد على الحاجة إلى نماذج أكثر سياقية يمكن أن تتكيف مع سلوكيات المستخدمين المتغيرة. تشير النتائج إلى أن دمج التقنيات المتقدمة، بما في ذلك التعلم العميق والنماذج القائمة على الرسوم البيانية، يمكن أن يحسن بشكل كبير أنظمة التوصية. تفوق نموذج MBT4R المقترح على الطرق الحالية مثل BERT4Rec وSASRec من خلال الاستفادة من تضمينات Meta BERT لتوفير سياق دلالي أغنى، مما يعزز التعميم ودقة التنبؤ عبر مجموعات بيانات متنوعة. تسهم هذه الدراسة في تقديم رؤى قيمة لتطور أنظمة التوصية في صناعة الأفلام والترفيه.
DOI: https://doi.org/10.1038/s41598-025-08931-1
PMID: https://pubmed.ncbi.nlm.nih.gov/40628873
Publication Date: 2025-07-08
Author(s): Hikmat Ullah Khan et al.
Primary Topic: Recommender Systems and Techniques
Overview
The research paper discusses the development of a novel transformer-based architecture for recommender systems, specifically targeting movie recommendations. The proposed model, named MetaBERTTransformer4Rec (MBT4R), leverages a self-attention mechanism to effectively capture user preferences through past interactions and contextual metadata. Empirical analysis on the MovieLens dataset demonstrates that MBT4R outperforms traditional models, achieving a root mean square error (RMSE) of 0.62, mean absolute error (MAE) of 0.45, and a coefficient of determination (R²) of 0.39, indicating significant improvements in predictive accuracy and user satisfaction.
The study emphasizes the importance of advanced AI techniques in enhancing recommendation systems and suggests future research directions. These include exploring content-based filtering with additional features such as demographic and contextual information, assessing the adaptability of MBT4R across various domains (e.g., music, books), and incorporating graph neural networks to better capture complex user-item relationships. The paper also acknowledges ethical considerations related to user data privacy and proposes solutions like anonymization. While MBT4R shows strong performance, it faces limitations in cold start scenarios and transparency, suggesting areas for further investigation to enrich user engagement and recommendation quality through multimodal data integration.
Methods
The research employs a systematic methodology to design and evaluate a collaborative filtering (CF) based movie recommendation system utilizing advanced deep learning transformers. The methodology is structured into several sequential steps, including data gathering, data preparation, algorithm selection, model construction, and model evaluation. This organized framework is visually represented in Figure 2, which aids in comprehending the overall process and flow of the research. The systematic approach ensures a thorough assessment of the recommendation system’s performance, leveraging the capabilities of contemporary deep learning techniques.
Results
The results of this study demonstrate the effectiveness of various recommendation models, particularly focusing on collaborative filtering techniques. The evaluation metrics used—Root Mean Square Error (RMSE), Mean Absolute Error (MAE), and R²—highlight the predictive capabilities and explanatory power of the models. Among the models compared, the MetaBERTTransformer4Rec (MBT4R) outperformed traditional methods such as Decision Trees (DT), K-Nearest Neighbors (KNN), Random Forest (RF), and XGBoost (XGB), as well as matrix factorization techniques like Singular Value Decomposition (SVD). Specifically, MBT4R achieved an RMSE of 0.62, MAE of 0.45, and R² of 0.91, indicating superior predictive precision and generalization.
The analysis also revealed that user ratings predominantly clustered around higher scores (3 to 5), suggesting a preference for discrete ratings over fractional ones. Genre analysis indicated that drama and comedy were the most favored, while horror and fantasy genres attracted less attention. The findings underscore the importance of advanced models, particularly those utilizing transformer architectures, in capturing complex user-item interactions and contextual information. The results further suggest that while traditional machine learning models provide a foundational understanding, deep learning approaches, especially those incorporating attention mechanisms and multi-modal data, are essential for achieving state-of-the-art performance in recommendation systems.
Discussion
In this research, a collaborative filtering-based movie recommendation system was developed utilizing five distinct AI methodologies: machine learning, ensemble learning, matrix factorization, deep learning, and transformer-based models. The system incorporated user and movie rankings, genres, and user-item relationships to enhance recommendation accuracy. Key models employed included K-Nearest Neighbors (kNN), Decision Trees (DT), Random Forest (RF), Extreme Gradient Boosting (XGBoost), Singular Value Decomposition (SVD), Gated Recurrent Units (GRU), and a novel transformer-based architecture, MetaBERTTransformer4Rec (MBT4R). Performance metrics such as Root Mean Squared Error (RMSE), Mean Absolute Error (MAE), and R-Squared (R²) were utilized to evaluate model efficacy, with MBT4R demonstrating superior predictive performance (MAE of 0.45, RMSE of 0.62, R² of 0.91) compared to traditional models.
The study highlights the importance of addressing challenges in collaborative filtering, such as data sparsity and cold-start problems, while emphasizing the need for more contextual models that can adapt to changing user behaviors. The findings suggest that integrating advanced techniques, including deep learning and graph-based models, can significantly improve recommendation systems. The proposed MBT4R model outperformed existing methods like BERT4Rec and SASRec by leveraging Meta BERT embeddings for richer semantic contextualization, thereby enhancing generalization and prediction accuracy across diverse datasets. This research contributes valuable insights for the ongoing evolution of recommendation systems in the movie and entertainment industry.