تاريخ الاستلام: 22 نوفمبر 2023 / تاريخ المراجعة: 15 مارس 2024 / تاريخ القبول: 14 مايو 2024 /
تم النشر على الإنترنت: 28 يونيو 2024
© المؤلفون 2024

الكلمات الرئيسية: نماذج اللغة الكبيرة أنظمة التخصيص أنظمة التوصية تعلم الأدوات AIGC

ظهور نماذج اللغة الكبيرة [1]، التي أظهرت تقدمًا ملحوظًا في فهم التعبير البشري، يؤثر بشكل عميق على مجتمع الذكاء الاصطناعي. هذه النماذج، المجهزة بكميات هائلة من البيانات وشبكات عصبية واسعة النطاق، تظهر قدرات مثيرة للإعجاب في فهم اللغة البشرية وتوليد نصوص تشبه نصوصنا. من بين هذه القدرات التفكير [2]، التعلم من عدد قليل من الأمثلة [3]، ودمج المعرفة العالمية الواسعة ضمن النماذج المدربة مسبقًا [1]. يمثل هذا اختراقًا كبيرًا في مجال الذكاء الاصطناعي، مما يؤدي إلى ثورة في تفاعلاتنا مع الآلات. وبالتالي، أصبحت نماذج اللغة الكبيرة لا غنى عنها عبر تطبيقات متنوعة، تتراوح من معالجة اللغة الطبيعية والترجمة الآلية إلى توليد المحتوى الإبداعي وتطوير الدردشة الآلية. لقد حظي إدخال ChatGPT، على وجه الخصوص، باهتمام كبير من المجتمع البشري، مما أثار تأملات حول القوة التحويلية لنماذج اللغة الكبيرة وإمكاناتها لدفع حدود ما يمكن أن تحققه الذكاء الاصطناعي (AI). تحمل هذه التكنولوجيا المدمرة وعدًا بتحويل كيفية تفاعلنا مع الذكاء الاصطناعي واستغلاله في مجالات لا حصر لها، مما يفتح آفاقًا جديدة وفرصًا للابتكار. مع استمرار تقدم هذه النماذج اللغوية وتطورها، من المحتمل أن تشكل مستقبل الذكاء الاصطناعي، مما يمكّننا من استكشاف أراضٍ غير مكتشفة وإطلاق إمكانيات أكبر في التعاون بين الإنسان والآلة.

يعتبر التخصيص، فن تخصيص التجارب وفقًا لتفضيلات الأفراد، رابطًا أساسيًا وديناميكيًا يجسر الفجوة بين البشر والآلات. في عالم اليوم المدفوع بالتكنولوجيا، يلعب التخصيص دورًا محوريًا في تعزيز تفاعلات المستخدمين ومشاركاتهم مع مجموعة متنوعة من المنصات والخدمات الرقمية. من خلال التكيف مع تفضيلات الأفراد، تمكّن أنظمة التخصيص الآلات من تلبية احتياجات كل مستخدم فريدة، مما يؤدي إلى تفاعلات أكثر كفاءة ومتعة. علاوة على ذلك، يتجاوز التخصيص مجرد توصيات المحتوى؛ فهو يشمل جوانب مختلفة من تجارب المستخدمين، بما في ذلك واجهات المستخدم، وأنماط التواصل، وأكثر من ذلك. مع استمرار تقدم الذكاء الاصطناعي، يصبح التخصيص أكثر تعقيدًا في التعامل مع كميات كبيرة من التفاعلات ونوايا المستخدمين المتنوعة. يتطلب ذلك تطوير تقنيات أكثر تقدمًا للتعامل مع السيناريوهات المعقدة وتقديم تجارب أكثر متعة ورضا. إن السعي نحو تحسين التخصيص مدفوع بالرغبة في فهم المستخدمين بشكل أفضل وتلبية احتياجاتهم المتطورة باستمرار. مع تطور التكنولوجيا، من المحتمل أن تستمر أنظمة التخصيص في التطور، مما يخلق في النهاية مستقبلًا حيث تتكامل تفاعلات الإنسان والآلة بسلاسة في كل جانب من جوانب حياتنا، مقدمة تجارب شخصية ومخصصة تعزز الروتين اليومي.

تمتلك نماذج اللغة الكبيرة، بقدراتها العميقة والواسعة، القدرة على إحداث ثورة في أنظمة التخصيص، وتحويل طريقة تفاعل البشر وتوسيع نطاق التخصيص. لم يعد يمكن تصنيف التفاعل بين البشر والآلات ببساطة على أنه نشط وسلبي، تمامًا مثل محركات البحث التقليدية وأنظمة التوصية. ومع ذلك، تتجاوز هذه النماذج الكبيرة مجرد تصفية المعلومات البسيطة وتقدم مجموعة متنوعة من الوظائف الإضافية. على وجه التحديد، سيتم استكشاف نية المستخدم بشكل نشط وشامل، مما يسمح بتواصل أكثر مباشرة وسلاسة بين المستخدمين والأنظمة من خلال اللغة الطبيعية. على عكس التقنيات التقليدية التي تعتمد على تمثيل المعلومات المعتمد على الهوية والذي يكون أقل قابلية للتفسير، تمكّن نماذج اللغة الكبيرة من فهم أعمق لمطالب واهتمامات المستخدمين بدقة. يمهد هذا الفهم الأعمق الطريق لخدمات شخصية عالية الجودة، تلبي احتياجات وتفضيلات المستخدمين بطريقة أكثر دقة وفعالية. علاوة على ذلك، فإن دمج
أدوات متنوعة معزز بشكل كبير بقدرات نماذج اللغة الكبيرة، مما يوسع بشكل كبير من الإمكانيات والسيناريوهات لأنظمة التخصيص. من خلال تحويل متطلبات المستخدمين إلى خطط، بما في ذلك فهمها وتوليدها وتنفيذها، يمكن للمستخدمين الوصول إلى مجموعة متنوعة من المعلومات والخدمات. من المهم أن يظل المستخدمون غير مدركين للتحولات المعقدة التي تحدث خلف الكواليس، حيث يختبرون نموذجًا سلسًا من البداية إلى النهاية. لا تزال إمكانيات نماذج اللغة الكبيرة في التخصيص غير مستكشفة إلى حد كبير.

تتناول هذه الورقة التحديات في التخصيص وتستكشف الحلول المحتملة باستخدام نماذج اللغة الكبيرة. في الأعمال ذات الصلة الموجودة، يقدم LaMP [4] معيارًا جديدًا لتدريب وتقييم نماذج اللغة في إنتاج مخرجات مخصصة لأنظمة استرجاع المعلومات. من ناحية أخرى، تركز دراسات أخرى ذات صلة [5-7] بشكل أساسي على تقنيات التخصيص التقليدية، مثل أنظمة التوصية. من منظور آليات التعلم، يتناول LLM4Rec [5] كل من LLM التمييزي للتوصية وLLM التوليدي للتوصية. فيما يتعلق بتكييف LLM لأنظمة التوصية من حيث “أين” و”كيف”، يركز Li وآخرون [6] على خط الأنابيب العام في مراحل التوصية الصناعية. من ناحية أخرى، يقوم Fan وآخرون [7] بإجراء مراجعة تركز على أساليب ما قبل التدريب، والتعديل الدقيق، والتحفيز. بينما تناقش هذه الأعمال نماذج اللغة المدربة مسبقًا مثل Bert لتسهيل التحليل، فإنها تخصص اهتمامًا محدودًا للقدرات الناشئة لنماذج اللغة الكبيرة. تهدف هذه الورقة إلى سد هذه الفجوة من خلال فحص القدرات الفريدة والقوية لنماذج اللغة الكبيرة في التخصيص، وتوسيع نطاق التخصيص باستخدام الأدوات.

تم تنظيم بقية هذه الدراسة على النحو التالي: نستعرض تخصيص النماذج اللغوية الكبيرة في القسم 2 لمراجعة التطورات والتحديات. ثم نناقش بعناية الفاعلين المحتملين للنماذج اللغوية الكبيرة من أجل التخصيص بدءًا من الاستخدام البسيط للقدرات الناشئة والتكامل المعقد مع أدوات أخرى في القسم 3. كما نناقش التحديات المحتملة عند تكييف النماذج اللغوية الكبيرة للتخصيص. يتم عرض الهيكل الكامل لهذه الورقة في الشكل 1.

التخصيص، فن دقيق يكيف التجربة وفقًا للتفضيلات والاحتياجات الفريدة للمستخدمين الأفراد، أصبح حجر الزاوية في الذكاء الاصطناعي الحديث. في هذا القسم، نستكشف العالم الجذاب لتقنيات التخصيص وتأثيرها العميق على تفاعلات المستخدمين مع أنظمة الذكاء الاصطناعي. سنتناول جانبين رئيسيين من التخصيص: أنظمة التوصية والمساعدة الشخصية. لا تعزز هذه التقنيات رضا المستخدم فحسب، بل تجسد أيضًا تطور الذكاء الاصطناعي، حيث تتكامل الآلات بسلاسة مع حياتنا، وتفهمنا على مستوى عميق. من خلال تخصيص التوصيات، وتقديم المساعدة المخصصة، وتقديم نتائج بحث شخصية، تمتلك أنظمة الذكاء الاصطناعي القدرة على خلق تجربة مستخدم غامرة وفردية حقًا.

تلعب أنظمة التوصية دورًا محوريًا في التخصيص، حيث تحدث ثورة في الطريقة التي يكتشف بها المستخدمون المحتوى ويتفاعلون معه. تهدف هذه الأنظمة إلى التنبؤ واقتراح عناصر تهم المستخدمين الأفراد، مثل الأفلام أو المنتجات أو المقالات، بناءً على تفاعلاتهم وتفضيلاتهم التاريخية.

فيما يتعلق بتطوير أنظمة التوصية، فقد تطورت بشكل كبير على مر السنين، حيث يُعتبر التصفية التعاونية [8،9] واحدة من أقدم وأهم الأساليب. تعتمد التصفية التعاونية على بيانات تفاعل المستخدمين مع العناصر لتحديد الأنماط وتقديم التوصيات بناءً على المستخدمين الذين لديهم تفضيلات مشابهة. تستخرج الحلول التقليدية، مثل تحليل المصفوفات [10] والأساليب المعتمدة على المستخدم/العنصر [11]، العناصر المثيرة للاهتمام بناءً على الفكرة القائلة بأن المستخدمين الذين أظهروا تفضيلات مشابهة في الماضي من المحتمل أن يكون لديهم تفضيلات مشابهة في المستقبل. على الرغم من فعاليتها، فإن التصفية التعاونية لها قيود، مثل مشكلة “البداية الباردة” للمستخدمين والعناصر الجدد. لمعالجة هذه القيود، ظهرت التصفية المعتمدة على المحتوى [12]، التي تأخذ في الاعتبار محتوى العناصر لتقديم التوصيات. تستفيد من ميزات وخصائص العناصر للعثور على أوجه التشابه وتقديم اقتراحات مخصصة. يمكن تقسيم هذه الميزات إلى معلومات من جانب المستخدم، مثل ملفات تعريف المستخدمين، ومعلومات من جانب العنصر [13، 14]، مثل علامات العناصر وفئات العناصر، ومعلومات قائمة على التفاعل [15]، مثل المراجعات والتعليقات. ومع ذلك، قد تواجه التصفية المعتمدة على المحتوى صعوبة في التقاط تفضيلات المستخدمين المعقدة واكتشاف توصيات متنوعة مقيدة بتمثيلات الميزات المحدودة.

في السنوات الأخيرة، حظي التعلم العميق باهتمام كبير في مجال أنظمة التوصية بسبب قدرته على نمذجة الأنماط المعقدة والتفاعلات في بيانات المستخدمين والعناصر. لقد أظهرت الأساليب المعتمدة على التعلم العميق نتائج واعدة في التقاط المعلومات التسلسلية والزمنية والسياقية، بالإضافة إلى استخراج تمثيلات ذات مغزى من البيانات واسعة النطاق. مع إدخال الشبكات العميقة، يتم التقاط التفاعلات ذات الرتبة العالية بين ميزات المستخدمين والعناصر بشكل جيد لاستخراج اهتمامات المستخدم. تقدم الأساليب المعتمدة على التعلم العميق طرقًا لالتقاط التفاعلات ذات الرتبة العالية من خلال استخدام تقنيات مثل آليات الانتباه والشبكات المعتمدة على الرسوم البيانية لاستخراج العلاقات المعقدة بين المستخدم والعنصر. لقد أظهرت هذه الأساليب أنها تعزز أداء التوصية من خلال مراعاة الاعتمادات ذات الرتبة الأعلى والعلاقات بين العناصر. منطقة أخرى من أنظمة التوصية المعتمدة على التعلم العميق هي أنظمة التوصية التسلسلية، المصممة خصيصًا للتعامل مع التفاعلات التسلسلية بين المستخدمين والعناصر، مثل تسلسلات سلوك المستخدم على مر الزمن. تعتبر آليات الانتباه الذاتية ووحدات التكرار المغلقة (GRUs) خيارات شائعة لـ
نمذجة البيانات التسلسلية في أنظمة التوصية. تتفوق هذه النماذج في التقاط الاعتمادات الزمنية والسياق، مما يجعلها مناسبة تمامًا لمهام مثل توصية العنصر التالي وتوصية قائمة الجلسة. يمكن للنماذج المعتمدة على التسلسل أن تأخذ في الاعتبار الترتيب الذي يتم فيه التفاعل مع العناصر وتتعلم أنماط سلوك المستخدم التي تتطور. علاوة على ذلك، فإن ظهور نماذج اللغة مثل BERT قد تقدم بشكل أكبر أنظمة التوصية من خلال تمكين فهم أفضل لكل من ميزات اللغة الطبيعية وسلوكيات المستخدم التسلسلية. يمكن لهذه النماذج اللغوية أن تلتقط تمثيلات دلالية عميقة ومعرفة بالعالم، مما يثري عملية التوصية ويسهل تقديم توصيات أكثر تخصيصًا ووعيًا بالسياق. بشكل عام، فإن تطبيق تقنيات التعلم العميق في أنظمة التوصية قد فتح آفاقًا جديدة للبحث والابتكار، واعدًا بثورة في مجال التوصيات الشخصية وتعزيز تجارب المستخدمين.

تشير مساعدة التخصيص إلى استخدام تقنيات الذكاء الاصطناعي وتعلم الآلة لتخصيص وتكييف التجارب أو المنتجات أو المحتوى بناءً على تفضيلات وسلوك وخصائص الأفراد. من خلال تحليل تفضيلات وسلوك وخصائص الأفراد، تخلق نظامًا بيئيًا مخصصًا يعزز من تفاعل المستخدم ورضاه. على عكس أنظمة التوصية التقليدية، التي تعتمد على التنبؤ باهتمامات المستخدم بشكل سلبي، تتبنى المساعدة الشخصية نهجًا أكثر استباقية. تتجه إلى مجال التنبؤ بنوايا أو أفعال المستخدمين التالية من خلال استخدام المعلومات السياقية، مثل التعليمات التاريخية وإشارات الكلام. يتيح هذا المستوى الأعمق من الفهم للنظام تلبية احتياجات المستخدمين بطريقة أكثر توقعًا وبديهية. في جوهر هذه القدرة تكمن دمج تقنيات متطورة مثل معالجة اللغة الطبيعية ورؤية الكمبيوتر. تمكّن هذه الأدوات المتقدمة النظام من التعرف على نوايا المستخدم وتفسيرها، سواء كانت مُعبرًا عنها من خلال اللغة المنطوقة أو المكتوبة، أو حتى الإشارات البصرية. علاوة على ذلك، يمتد إمكان المساعدة الشخصية إلى ما هو أبعد من التوصيات الثابتة إلى تفاعلات ديناميكية وواعية بالسياق. مع تزايد معرفة النظام بتفضيلات وأنماط المستخدم، يتكيف ويصقل توصياته في الوقت الفعلي، مواكبًا للاحتياجات والتفضيلات المتغيرة باستمرار للمستخدم.

أنظمة التوصية المحادثية [24، 25] تمثل خطوة ملحوظة إلى الأمام في مجال المساعدة الشخصية. من خلال إشراك المستخدمين في محادثات تفاعلية، تتعمق هذه الأنظمة في تفضيلاتهم وتضبط توصياتها وفقًا لذلك. من خلال الاستفادة من قوة فهم اللغة الطبيعية، تقوم هذه الأنظمة التوصية المحادثية بتفسير استفسارات المستخدمين وردودهم بمهارة، مما يؤدي إلى تجربة مستخدم سلسة وجذابة. ومن الأمثلة البارزة على منتجات المساعدة الشخصية، مثل سيري. ومايكروسوفت كورتانا لقد أثبتت بالفعل فعاليتها على الأجهزة المحمولة. بالإضافة إلى ذلك، فإن دمج نماذج اللغة الكبيرة مثل ChatGPT يعزز من قدرات الموصيات التفاعلية، مما يعد بتجارب مستخدمين محسّنة بشكل أكبر. مع استمرار تقدم هذه التكنولوجيا، يمكننا توقع أهميتها المتزايدة عبر صناعات متنوعة، بما في ذلك الرعاية الصحية والتعليم والمالية، وغيرها. بينما يعد نمو الموصيات التفاعلية والمساعدة الشخصية بفوائد هائلة، من الضروري تطوير هذه المنتجات بشكل مسؤول. إن الحفاظ على خصوصية المستخدم وضمان ممارسات شفافة في معالجة البيانات أمران أساسيان للحفاظ على ثقة المستخدم وحماية المعلومات الحساسة.

تقوم نماذج اللغة بعمليات النمذجة الاحتمالية لتوليد اللغة الطبيعية، أي أنه عند تقديم سياق محدد، تقوم نماذج اللغة بعمل توقعات للكلمات التي سيتم توليدها في الخطوات المستقبلية. في الوقت الحاضر، تُبنى نماذج اللغة في الغالب على الشبكات العصبية العميقة، حيث يجب التأكيد على ميزتين. أولاً، تعتمد الغالبية العظمى من نماذج اللغة على المحولات أو تبايناتها القريبة. هذه الأنواع من الشبكات العصبية بارعة في نمذجة الاعتماد على السياق داخل اللغات الطبيعية وتظهر أداءً متفوقًا وتحسنًا مستمرًا عند توسيع نطاقها. ثانيًا، يتم تدريب نماذج اللغة مسبقًا على نطاق واسع باستخدام كمية هائلة من النصوص غير المصنفة. يتم ضبط النماذج المدربة مسبقًا بشكل إضافي باستخدام بيانات موجهة للمهام لتتكيف مع تطبيقات مختلفة في الأسفل.

لقد تحقق تقدم هائل في نماذج اللغة في السنوات الأخيرة، حيث يمثل ظهور نماذج اللغة الكبيرة، الممثلة بـ GPT-3 [3]، علامة فارقة مهمة لمجتمع الذكاء الاصطناعي بأسره. نماذج اللغة الكبيرة (LLMs)، كما يوحي الاسم، هي مشتقات موسعة بشكل كبير من نماذج اللغة التقليدية. على وجه الخصوص، تم تضخيم الشبكات الأساسية وبيانات التدريب بشكل كبير. من ناحية، على الرغم من عدم وجود معايير محددة للحد الأدنى من العدد، فإن نموذج LLM النموذجي يتكون عادة من عدة مليارات ولا يقل عن تريليونات من معلمات النموذج، وهي أعداد أكبر بكثير مما كانت عليه من قبل [33]. من ناحية أخرى، يتم إجراء التدريب المسبق بناءً على مجموعة بيانات غير خاضعة للإشراف، مع مئات المليارات أو تريليونات من الرموز التي تم تصفيتها بعناية من مصادر مثل Common Crawl وGitHub وWikipedia وBooks وArXiv، إلخ [1]. يتم توضيح تأثير التوسع من خلال قوانين التوسع [34، 35]، التي تكشف رقميًا عن العلاقة ذات القوة بين حجم النموذج وحجم البيانات ونطاق التدريب ونمو أداء النموذج.

إن توسيع الشبكة وبيانات التدريب يؤديان إلى قفزة نوعية في قدرة نماذج اللغة الكبيرة. فهي لا تصبح أكثر كفاءة في المهارات التقليدية، مثل فهم نوايا الناس وتوليد لغات تشبه اللغة البشرية فحسب، بل أيضًا في القدرات المعالجة التي نادرًا ما تظهرها النماذج الأصغر. يُشار إلى هذه الظاهرة باسم القدرات الناشئة لنماذج اللغة الكبيرة، حيث يتم مناقشة ثلاث قدرات تمثيلية بشكل متكرر. واحدة منها هي قدرة التعلم في السياق، حيث يمكن لنماذج اللغة الكبيرة أن تتعلم بسرعة من الأمثلة القليلة المقدمة في الموجه. والأخرى هي قدرة اتباع التعليمات. بعد أن يتم ضبطها بدقة مع مهام متنوعة في شكل ضبط التعليمات، تصبح نماذج اللغة الكبيرة قادرة على اتباع تعليمات البشر. وبالتالي، يمكنها التعامل مع مهام مختلفة تُعرض بطريقة عشوائية. وأخيرًا وليس آخرًا، وُجد أن نماذج اللغة الكبيرة قادرة على إجراء استدلال خطوة بخطوة. مع بعض استراتيجيات التوجيه، مثل سلسلة الأفكار، يمكن لنماذج اللغة الكبيرة الاقتراب بشكل تكراري من الإجابة النهائية لبعض المهام المعقدة، مثل مسائل الرياضيات الكلامية، من خلال تقسيم المهام إلى مشكلات فرعية واكتشاف الإجابات المتوسطة المحتملة لكل من المشكلات الفرعية.

بفضل القدرات المتفوقة على الفهم والاستدلال والتوليد، تُعتبر نماذج اللغة الكبيرة، وخاصة نماذج الدردشة الناتجة عن ضبط التعليمات، ككتل أساسية للعديد من خدمات التخصيص. أحد السيناريوهات المباشرة هو البحث التفاعلي والتوصيات. بمجرد أن تُبنى على نماذج اللغة الكبيرة، ستتمكن أنظمة البحث والتوصية من التفاعل مع المستخدمين من خلال التفاعلات، وتقديم المخرجات بطريقة لفظية وقابلة للتفسير، واستقبال الملاحظات من المستخدم وإجراء التعديلات بناءً على تلك الملاحظات، وما إلى ذلك. ستؤدي التغييرات المذكورة أعلاه إلى إحداث تحول جذري في خدمات التخصيص، من مجرد إجراء البحث والتوصية بشكل سلبي، إلى اكتشاف احتياجات المستخدم بشكل استباقي والبحث عن العناصر المفضلة لدى المستخدم. في نطاقات أوسع، قد تتجاوز نماذج اللغة الكبيرة مجرد إجراء البحث والتوصية المخصصة، بل تلعب دور المساعدين الشخصيين لمساعدة المستخدمين في إكمال مهامهم. قد تأخذ نماذج اللغة الكبيرة
ملاحظات حول المعلومات المهمة للمستخدمين داخل ذاكرتهم، وضع خطط مخصصة بناءً على المعلومات المحفوظة عند ظهور مطالب جديدة، وتنفيذ الخطط من خلال الاستفادة من أدوات مثل محركات البحث وأنظمة التوصية.

ومع ذلك، يجب علينا مواجهة الواقع بأن تطبيق نماذج اللغة الكبيرة (LLMs) من أجل التخصيص ليس مشكلة بسيطة. لنذكر بعض التحديات المفتوحة. أولاً، يتطلب التخصيص فهم تفضيلات المستخدم، وهو ما يتطلب معرفة أكثر تخصصًا بدلاً من المعرفة العامة التي تتعلمها نماذج اللغة الكبيرة. لا يزال التكيف الفعال والفعال لنماذج اللغة الكبيرة للخدمات المخصصة بحاجة إلى حل. بالإضافة إلى ذلك، يمكن أن تتذكر نماذج اللغة الكبيرة المعلومات السرية للمستخدم أثناء تقديم الخدمات المخصصة. وبالتالي، يثير ذلك مخاوف بشأن حماية الخصوصية. تم تعلم نماذج اللغة الكبيرة من بيانات الإنترنت؛ وبسبب انحياز التعرض، من شبه المؤكد أن تصدر توقعات غير عادلة للأقليات. لمعالجة التحديات المذكورة أعلاه، تحتاج المجتمعات البحثية إلى معايير ومجموعات بيانات تقييم. ومع ذلك، فإن هذه الموارد بعيدة عن الاكتمال في الوقت الحالي. لدعم التخصيص بالكامل باستخدام نماذج اللغة الكبيرة، يجب إنشاء أطر منهجية وتجريبية بشكل منهجي لجميع هذه الجوانب.

في الأقسام التالية، نتناول إمكانيات نماذج اللغة الكبيرة للتخصيص، مستعرضين تطورها من حالات الاستخدام البسيطة، مثل استخدام معرفة الكلمات كميزات، إلى تكامل أكثر تعقيدًا مع وحدات أدوات أخرى لتعمل كعملاء. نركز بشكل خاص على تقدم القدرات الناشئة، بدءًا من المعرفة الأساسية بالعالم وفهم نية المستخدم، والتقدم إلى قدرات التفكير عالية المستوى. نستكشف كيف يمكن أن تسهم نماذج اللغة الكبيرة في بناء قاعدة معرفة تعزز المعرفة العامة حول عناصر متنوعة. بالإضافة إلى ذلك، نناقش كيف يمكن أن تمكّن قدرة الفهم لنماذج اللغة الكبيرة المفسرين والمفسرين للمحتوى من إجراء تحليل متعمق للتفاعلات. علاوة على ذلك، نلاحظ محاولات للاستفادة من قدرة التفكير لنماذج اللغة الكبيرة لمقدمي الأنظمة لتقديم نتائج التوصية. هذه القدرات المتزايدة التعقيد تمكّن الاستخدام المعقد لنماذج اللغة الكبيرة مع وحدات أدوات أخرى، مما يمكّنها من فهم نوايا المستخدمين بشكل أفضل وتنفيذ تعليمات المستخدم. وبالتالي، نستكشف أيضًا تكامل نماذج اللغة الكبيرة مع أدوات أخرى للتخصيص، بما في ذلك تعلم الأدوات، والعملاء المحادثين ومبدعي المحتوى المخصص. يتم تصوير نظرة عامة هذا الفصل في الشكل 2. تهدف دراستنا الشاملة إلى تقديم فهم أعمق للمشهد الحالي، مسلطة الضوء على الفرص والتحديات المرتبطة بإدماج نماذج اللغة الكبيرة في التخصيص.

توفر قاعدة المعرفة معلومات غنية مع دلالات، مما يجذب اهتمامًا متزايدًا لاستخدام قاعدة المعرفة في أنظمة التوصية. بشكل خاص، تعتبر الرسوم البيانية للمعرفة، حيث تمثل العقد الكيانات وتمثل الحواف العلاقات في الرسم البياني للمعلومات المتنوعة، هي الشكل الشائع لقاعدة المعرفة وتُقدم كمعلومات جانبية لتعزيز أداء الموصين. تساعد الرسوم البيانية للمعرفة في فهم العلاقات المتبادلة بين المستخدمين والعناصر وتوفر أيضًا تفسيرًا أفضل للموصين. يمكن تصنيف الطرق الحالية التي تدمج الرسوم البيانية للمعرفة في أنظمة التوصية إلى ثلاث مجموعات رئيسية: طرق قائمة على التضمين، وطرق قائمة على المسارات، وطرق موحدة. تستخدم الطرق القائمة على التضمين، مثل CKE [14] وDKN [41] وKSR [42] وSHINE [43]، تمثيلات دلالية للمستخدمين والعناصر. تهدف هذه الطرق إلى التقاط العلاقات الدلالية الأساسية بين الكيانات في الرسم البياني للمعرفة، مما يمكن أن يحسن جودة التوصيات. تستغل الأساليب القائمة على المسارات، مثل Hete-MF [44] وSemRec [45] وRuleRec [46] وEIUM [47]، معلومات الاتصال الدلالي الموجودة في الرسم البياني للمعرفة لتنظيم تمثيلات المستخدم والعنصر. تأخذ هذه الطرق في الاعتبار المسارات بين المستخدمين والعناصر في الرسم البياني وتستفيد منها لإدخال القابلية للتفسير في عملية التوصية. تقوم الطرق الموحدة، مثل RippleNet [48] وKGCN [49] وKGAT [50] وAKUPM [51] وIntentGC [52]، بتنقيح تمثيلات الكيانات في الرسم البياني للمعرفة من خلال الاستفادة من تقنيات انتشار التضمين. تقوم هذه الطرق بنشر تضمينات الكيانات عبر هيكل الرسم البياني، مما يسمح بتدفق المعلومات عبر الكيانات المتصلة وتنقيح التمثيلات وفقًا لذلك.

ومع ذلك، فإن الرسوم البيانية للمعرفة المعتمدة في أنظمة التوصية محدودة وذات قابلية استخدام منخفضة. عند مراجعة مجموعات بيانات الرسوم البيانية للمعرفة المختلفة لأنظمة التوصية، التي تغطي مجالات الأفلام والكتب والأخبار والمنتجات، وما إلى ذلك، لا تزال هذه المجموعات نادرة بشكل كبير مقارنةً بالكم الهائل من المعرفة البشرية، وخاصة نقص الحقائق، بسبب التكلفة الباهظة للإشراف على بناء الرسم البياني للمعرفة. سيكون بناء رسم بياني شامل ودقيق للمعرفة مهمة معقدة ومرهقة للموارد، والتي ستشمل جمع البيانات، والتكامل، والتنظيف لضمان جودة البيانات وتناسقها. مقيدًا بتكلفة الوسم الباهظة للرسوم البيانية للمعرفة، عادة ما توجد كيانات أو علاقات مفقودة. قد يتم تجاهل تفضيلات المستخدم لهذه الكيانات أو المسارات، مما يؤثر سلبًا على أداء التوصية.

لقد تم مناقشة قدرة نماذج اللغة الكبيرة على استرجاع المعرفة الواقعية كقواعد معرفة صريحة [53-56، 56-61]، مما يقدم فرصة لبناء رسوم بيانية للمعرفة أكثر شمولاً داخل أنظمة التوصية. بالعودة إلى العمل [53]، أظهرت نماذج اللغة الكبيرة قوتها المذهلة في تخزين المعلومات الواقعية، مثل الكيانات والمعرفة العامة، ثم يمكن نقل المعرفة العامة بشكل موثوق إلى المهام الأساسية. الطرق الحالية في الرسوم البيانية للمعرفة لا تكفي للتعامل مع الرسوم البيانية الناقصة [62] وبناء الرسوم البيانية للمعرفة باستخدام نصوص [63] ويحاول العديد من الباحثين الاستفادة من قوة نماذج اللغة الكبيرة لحل المهمتين، أي إكمال المعرفة [64] وبناء المعرفة [65]. بالنسبة لإكمال الرسم البياني للمعرفة، والذي يشير إلى مهمة الحقائق المفقودة في الرسم البياني المعطى، تم بذل جهود حديثة لترميز النص أو توليد الحقائق للرسوم البيانية للمعرفة. يقوم MTL-KGC [66] بترميز تسلسلات النص للتنبؤ بإمكانية وجود الأزواج. يتنبأ MEMKGC [67] بالكيانات المفقودة من الثلاثية. يستخدم StAR [68] مشفرات نصية سيامية لترميز الكيانات بشكل منفصل. يستخدم GenKGC [69] نماذج اللغة التي تعتمد على فك التشفير لتوليد الكيان النهائي مباشرة. يقوم TagReal [70] بتوليد مطالبات عالية الجودة من نصوص خارجية. يعتمد AutoKG [63] مباشرة على نماذج اللغة الكبيرة، مثل ChatGPT وGPT-4، ويصمم
مطالبات مخصصة للتنبؤ بالكيان النهائي. أما بالنسبة للمهمة المهمة الأخرى، أي بناء الرسم البياني للمعرفة، والتي تشير إلى إنشاء تمثيل منظم للمعرفة، يمكن تطبيق نماذج اللغة الكبيرة في عملية بناء الرسوم البيانية للمعرفة، بما في ذلك اكتشاف الكيانات [71، 72]، وحل الإشارة المرجعية [73، 74] واستخراج العلاقات [75، 76]. يمكن أن تحقق نماذج اللغة الكبيرة أيضًا البناء من البداية إلى النهاية [ ] لبناء الرسوم البيانية للمعرفة مباشرة من النص الخام. تمكّن نماذج اللغة الكبيرة من تقطير المعرفة لبناء الرسوم البيانية للمعرفة. يقوم symbolic-kg [79] بتقطير الحقائق العامة من GPT3 ثم يقوم بتعديل نموذج الطالب الصغير لتوليد الرسوم البيانية للمعرفة. لقد أظهرت هذه النماذج القدرة على تخزين كميات كبيرة من المعرفة، مما يوفر خيارًا قابلاً للتطبيق لتحسين نطاق وعمق الرسوم البيانية للمعرفة. علاوة على ذلك، دفعت هذه التطورات البحث في النقل المباشر للمعرفة المخزنة من نماذج اللغة الكبيرة إلى الرسوم البيانية للمعرفة، مما يلغي الحاجة إلى الإشراف البشري. يسلط هذا البحث المثير الضوء على إمكانيات أتمتة إكمال الرسوم البيانية للمعرفة باستخدام نماذج اللغة الكبيرة المتطورة.

من خلال الاستفادة من قدرات نماذج اللغة الكبيرة، ستستفيد أنظمة التوصية من قاعدة معرفة أكثر شمولاً وتحديثًا. أولاً، يمكن استكمال المعلومات المفقودة عن الكلية لبناء رسوم بيانية معرفية أكثر شمولاً وبالتالي يمكن استخراج العلاقات بين الكيانات لتحسين التوصيات. ثانيًا، على عكس البيانات السابقة التي كانت محصورة في نطاق معين، تحتوي نماذج اللغة الكبيرة نفسها على الكثير من المعلومات عبر المجالات التي يمكن أن تساعد في تحقيق توصيات عبر المجالات، مثل التوصية بأفلام مناسبة بناءً على الأغاني المفضلة للمستخدم. باختصار، يمكن الاستفادة من المعرفة المخزنة لتعزيز دقة التوصيات وملاءمتها وتخصيصها، مما يحسن في النهاية الأداء العام لأنظمة التوصية. العمل الحالي [80] يحث نماذج اللغة الكبيرة على توليد معرفة واقعية حول الأفلام لتعزيز أداء نماذج توقع CTR. للاستفادة بشكل أفضل من المعرفة الواقعية، تم اعتماد وحدة تكيف المعرفة لاستخراج معلومات سياقية أفضل. تعتمد LLMRec [81] استراتيجيات تعزيز الرسوم البيانية المعتمدة على LLM لإثراء معلومات العناصر وتصميم طرق إزالة الضوضاء لضمان التعزيز. تعتمد LLM-KRec [82] نماذج اللغة الكبيرة لتحديد العلاقات التكميلية في كل زوج من الكيانات وبناء رسم بياني معرفي تكميلي، مما يعزز من توصيات الصناعة. يتم تلخيص العمل الحالي الذي يستفيد من قدرات قاعدة المعرفة في التخصيص في الجدول 1.

من الجدير بالذكر أن مشكلة الشبح في نماذج اللغة الكبيرة يمكن أن تكون تحديًا عند تطبيقها على مهام التوصية. يمكن أن تؤدي الطبيعة الكامنة لنماذج اللغة الكبيرة إلى الغموض أو عدم دقة المصدر [83]. يمكن أن تظهر هذه المشكلة كإدخال معلومات زائدة أو حتى ضوضاء في عملية التوصية. قد تولد نماذج اللغة الكبيرة استجابات، رغم أنها صحيحة نحويًا، تفتقر إلى السياق المعلوماتي أو الملاءمة. وفقًا لـ KoLA [84]، وهو معيار لتقييم معرفة الكلمات لنماذج LLM، فإن أفضل نموذج GPT4 يحقق فقط 0.012 في الدقة و0.013 في الاسترجاع في مهمة التعرف على الكيانات المسماة، وهو ما يقل بكثير عن أداء النماذج الخاصة بالمهام (0.712 في الدقة و0.706 في الاسترجاع) لنموذج PL-Marker [85]. تشير هذه النتيجة إلى أن الفطرة السليمة لا تزال بعيدة عن أن يتم التقاطها بشكل كافٍ بواسطة LLM.

توفر أنظمة التوصية المعتمدة على المحتوى حلاً فعالًا للتخفيف من مشكلة التغذية الراجعة النادرة في أنظمة التوصية. من خلال الاستفادة من الخصائص والسمات للعناصر، تحقق هذه الأنظمة فهمًا أعمق لخصائصها، مما يسهل دقة

التوافق مع تفضيلات المستخدم. ومع ذلك، قد تظهر ميزات المحتوى المستخدمة في التوصية المعتمدة على المحتوى أيضًا ندرة. الاعتماد فقط على إشارة الإشراف الموصى بها، مثل النقر والتصفح، قد لا يستغل بالكامل الفوائد المحتملة لهذه الميزات. للتغلب على هذا التحدي، تظهر نماذج اللغة كنماذج أساسية قوية تعمل كمفسرين للمحتوى في معالجة الميزات النصية. تعزز استخدامها فعالية أنظمة التوصية من خلال فهم وتفسير المحتوى النصي بشكل فعال، مما يؤدي إلى تحسين التوصيات.

يتضمن مفسر المحتوى التقليدي نموذجًا إحصائيًا، وشبكات عصبية، وشبكات NLP متقدمة، كما هو ملخص في الشكل 3. تركز هذه الأساليب بشكل أساسي على تحويل معلومات المحتوى، مثل البيانات النصية، إلى تمثيلات ميزات لتسهيل عملية التوصية.

تم استخدام نماذج إحصائية مثل TF-IDF، وطول الوصف الأدنى (MDL) [86]، وكيس الكلمات تقليديًا لترميز البيانات النصية مثل المقالات الإخبارية والمستندات إلى متجهات قيم مستمرة. ومع ذلك، مع تقدم تقنيات التعلم العميق، استكشف الباحثون هياكل شبكات عصبية متنوعة لتعلم تمثيلات محتوى أكثر تعبيرًا. بدلاً من الاعتماد فقط على التمثيلات الإحصائية، تقوم بعض الأساليب بتهيئة المتجهات بتمثيلات كيس الكلمات ثم تستخدم نماذج قائمة على التشفير الذاتي لتعلم تمثيلات أكثر قوة. على سبيل المثال، يجمع CDL [16] بين المتجهات الكامنة المستمدة من التشفير الذاتي مع تمثيلات ID الأصلية لتعزيز تمثيلات المحتوى. يقدم CRAE [87] تشفيرًا تكراريًا تعاونيًا يلتقط ترتيب الكلمات في النصوص، مما يمكّن من نمذجة تسلسلات المحتوى في سيناريوهات التصفية التعاونية. يقترح Dong et al. [88] تشفيرًا تكراريًا مزيلًا للضوضاء يقوم بإعادة بناء تقييمات العناصر/المستخدمين والمعلومات النصية في وقت واحد، مما يسمح بالنمذجة المشتركة للمعرفة التعاونية والنصية. يقدم CVAE [89] تشفيرًا تكراريًا تعاونيًا متغيرًا يتعلم ميزات نصية احتمالية. بينما تكون التشفيرات الذاتية فعالة في تعلم تمثيلات منخفضة الأبعاد من بيانات النص، قد تواجه صعوبة في التقاط المعلومات الدلالية بشكل فعال [90]. في بعض الحالات، تُستخدم أساليب مثل doc2vec [91] لبناء تمثيلات المحتوى [92، 93] وتعلم التمثيلات المخفية. يقيم Okura et al. [94] هياكل شبكية مختلفة، بما في ذلك نماذج الكلمات وشبكات GRU، لتمثيل حالات المستخدم.

في أعقاب التقدم في نماذج معالجة اللغة الطبيعية العصبية (NLP)، تم استخدام هياكل أكثر تعقيدًا مثل الشبكات العصبية التلافيفية (CNNs)، والشبكات العصبية التكرارية (RNNs)، ونماذج الانتباه العصبي كمفسرين للمحتوى لاستخراج المعلومات السياقية والتقاط تفضيلات المستخدم. تأخذ هذه النماذج مدخلات جمل، مثل عناوين الأخبار، والمراجعات، أو التعليقات، وتحولها إلى مصفوفات تمثيل الكلمات باستخدام التهيئة العشوائية أو تمثيلات word2vec [95]. يتم استخدام هياكل متنوعة، بما في ذلك CNNs، وشبكات الانتباه، والنماذج الهجينة، لتعلم تمثيلات الجمل. على سبيل المثال، تدمج NPA [96] وLSTUR [97] آليات الانتباه لتحديد أهمية الكلمات بعد طبقات CNN. تستخدم NRMS [98] وCPRS [99] شبكات الانتباه الذاتي متعددة الرؤوس لتعلم تمثيلات الكلمات. هذه النماذج فعالة في التقاط الاعتماديات الطويلة في السياق وفهم المعلومات الدلالية في النص. بالإضافة إلى نمذجة النص، تُستخدم نماذج اللغة أيضًا كمفسرين للمحتوى لالتقاط اهتمامات المستخدم بناءً على تفاعلاتهم التاريخية. على سبيل المثال، تستخدم WE3CN [100] شبكة CNN ثلاثية الأبعاد لاستخراج ميزات زمنية من البيانات التاريخية. تستخدم DKN [41] آلية انتباه لتجميع المعلومات التاريخية المتعلقة بالعناصر المرشحة. يقترح DAN [101] نموذج LSTM قائم على الانتباه لالتقاط ميزات تسلسل مخفية أغنى. تستفيد هذه النماذج من هياكل عصبية مختلفة لتعزيز تمثيل النص في سياق أنظمة التوصية. من الجدير بالذكر أن هذه النماذج لا تزال لديها قيود من حيث العمق والقدرة على تعميم المعلومات الدلالية بشكل فعال.

في السنوات الأخيرة، كان هناك اهتمام متزايد في دمج نماذج اللغة المدربة مسبقًا الأكثر قوة، مثل BERT وGPT، في أنظمة التوصية. لقد أظهرت هذه النماذج أداءً استثنائيًا في مهام معالجة اللغة الطبيعية المختلفة وألهمت الباحثين للاستفادة منها لالتقاط تمثيلات دلالية عميقة ودمج المعرفة العالمية في أنظمة التوصية. ومع ذلك، فإن تطبيق نماذج اللغة المدربة مسبقًا على مهام التوصية يقدم تحديين رئيسيين. أولاً، هناك عدم توافق في الأهداف بين نماذج اللغة العامة والأهداف المحددة لأنظمة التوصية. لمعالجة ذلك، اقترح الباحثون أساليب تقوم بضبط النماذج المدربة مسبقًا أو تصميم مهام تدريب مسبق محددة للمهام لتكييفها مع مهام التوصية. على سبيل المثال، يستخدم U-BERT [102] BERT كمفسر للمحتوى ويقدم توقعات رموز الرأي المخفية وتوقعات تقييم الرأي كمهام تدريب مسبق لتوافق BERT بشكل أفضل مع أهداف التوصية. وبالمثل، استخدمت أعمال أخرى [103-107] BERT المدرب مسبقًا لتهيئة مشفر الأخبار لتوصية الأخبار، مما يعزز تمثيل الميزات النصية. كما تم استخدام النموذج المدرب مسبقًا، ERNIE، لتعزيز قدرة التمثيل للاستفسارات والمستندات [108، 109]. التحدي الثاني هو تقليل زمن الاستدلال عبر الإنترنت الناتج عن نماذج اللغة المدربة مسبقًا، والتي يمكن أن تكون مكلفة حسابيًا. استكشف الباحثون تقنيات مثل تقطير المعرفة وتحسين النموذج للحصول على نماذج خفيفة وفعالة مناسبة للخدمات عبر الإنترنت. على سبيل المثال، يستخدم CTR-BERT [110] تقطير المعرفة للحصول على نموذج صديق للذاكرة لتوقع معدل النقر، مما يعالج مشكلة زمن الاستجابة.

علاوة على ذلك، تم تطبيق نماذج اللغة المدربة مسبقًا خارج مهام التوصية السائدة. لقد تم دمجها في سيناريوهات توصية متنوعة، بما في ذلك توصية العلامات [111]، تمثيلات التغريدات [112]، وتوصية أمثلة الشيفرة [113]، لتعزيز تمثيل الميزات النصية في تلك المجالات المحددة.

بالإضافة إلى ذلك، استكشفت بعض الأعمال الحديثة [114-117] استخدام الميزات النصية فقط كمدخلات لنماذج التوصية، مستفيدة من نماذج اللغة المدربة مسبقًا لتخفيف مشاكل البداية الباردة وتمكين التوصيات عبر المجالات. تقدم هذه الفكرة مزايا في تخفيف مشاكل البداية الباردة وتسهيل التوصيات عبر المجالات بناءً على عمومية اللغة الطبيعية. يستخدم ZESREC [114] BERT للحصول على تمثيلات مستمرة عالمية لوصف العناصر لتوصية بدون تدريب. يركز Unisrec [115] على توصية تسلسلية عبر المجالات ويستخدم وحدة معززة خفيفة الوزن لتضمين تمثيل BERT الثابت في مهمة التوصية. يقوم VQ-Rec [116] بمزيد من توافق تضمينات النص التي تنتجها نماذج اللغة المدربة مسبقًا مع مهمة التوصية بمساعدة التكميم المتجه. يستكشف Fu وآخرون [118] ضبط المحولات على مستوى الطبقات لتحقيق توصيات قابلة للنقل بكفاءة في المعلمات.

بينما تمكّن نماذج اللغة المدربة مسبقًا فهم النص مع فائدة التقاط المعرفة العالمية أولاً، فإن تطوير نماذج اللغة الكبيرة المدربة مسبقًا يوفر قدرة طوارئ كبيرة في مجالات الاستدلال والتعميم، كما هو موضح في الجدول 2. يستكشف TALLRe [119] قدرة نماذج اللغة الكبيرة على التوصية التسلسلية. يلاحظون أن نماذج اللغة الأصلية تؤدي بشكل ضعيف في سيناريوهات عدم التدريب وندرة التدريب، بينما تظهر نماذج اللغة المعدلة وفقًا للتوصية أداءً متفوقًا في التعلم القليل والتعميم عبر المجالات. يتبنى Li وآخرون [123] نماذج اللغة الكبيرة كمشفرات سياقية ويحاولون فحص الحدود العليا لنماذج اللغة الكبيرة. وبالمثل، يقترح Kang وآخرون [120] طريقة ضبط تعليمات مماثلة لمهام توقع التقييم بناءً على هيكل T5. يجدون أن نماذج اللغة المعدلة، التي تستفيد من كفاءة البيانات، تتفوق على الموصين التقليديين. يعزز PALR [121] مزيدًا من بناء خط أنابيب ضبط التعليمات المحددة للتوصية، الذي يستخدم أولاً نماذج اللغة الكبيرة لتوليد الاستدلال كميزات إضافية بناءً على تاريخ سلوك المستخدم. بعد ذلك، يتم استرجاع مجموعة صغيرة من المرشحين باستخدام أي نموذج موجود بناءً على ملف تعريف المستخدم. أخيرًا، لتكييف نماذج اللغة العامة مع مهمة التوصية، يقومون بتحويل ميزات الاستدلال المولدة، وتاريخ تفاعل المستخدم، والمرشحين المسترجعين إلى بيانات تعليمات باللغة الطبيعية وضبط نموذج اللغة. تركز طرق ضبط التعليمات الحالية لنماذج اللغة لسيناريوهات التوصية عادةً على نوع واحد فقط من مهام التوصية، مما يحد من الاستخدام الكامل لقدرة التعميم القوية لنماذج اللغة. يعالج InstructRec [122] هذا القيد من خلال صياغة التوصية كإجراء اتباع التعليمات. يقومون بتصميم قوالب تعليمات متنوعة لاستيعاب مهام التوصية المختلفة ويستخدمون GPT-3.5 لتوليد بيانات تعليمات عالية الجودة بناءً على البيانات التاريخية للمستخدمين والقوالب. يمكن لنماذج اللغة التي تم ضبطها بدقة باستخدام بيانات التعليمات هذه التعامل بفعالية مع مجموعة واسعة من مهام التوصية وتلبية متطلبات المعلومات المتنوعة من مستخدمين مختلفين.

بالإضافة إلى تقدير الاقتراحات المقدمة من نموذج التوصية، يهتم المستخدمون أيضًا بالتبريرات المفهومة لهذه التوصيات [124، 125]. هذا أمر حاسم حيث أن معظم أنظمة التوصية هي صناديق سوداء لا يمكن فهم آلياتها الداخلية من قبل البشر [126]، مما يقلل من ثقة المستخدم. على سبيل المثال، في توصيات الأدوية، من غير المقبول التوصية بأدوية ذات تأثيرات علاجية جيدة ببساطة ولكن الفشل في تقديم أسباب فعاليتها. لتحقيق هذه الغاية، تهدف التوصيات القابلة للتفسير إلى ربط الاقتراحات عالية الجودة بتفسيرات متاحة. هذا لا يساعد فقط في تحسين

شفافية النموذج، الإقناع، والموثوقية، ولكن أيضًا تسهل تحديد وتصحيح الأخطاء المحتملة من خلال تفسيرات ثاقبة. تم توثيق هذه الفوائد بشكل موسع في الأعمال الأخيرة [38، 127-129]. على سبيل المثال، [128] أجرت دراسة تضمنت معالجة 40 مهمة صعبة وتقييم تأثير التفسيرات على سيناريوهات عدم التدريب وندرة التدريب. أظهرت نتائجهم أن التفسيرات لها تأثير إيجابي على أداء النموذج من خلال إنشاء ارتباط بين الأمثلة والتفسير.

تركز الأساليب التقليدية بشكل أساسي على التفسيرات المعتمدة على القوالب، والتي يمكن تصنيفها بشكل عام إلى تفسيرات قائمة على العناصر، وتفسيرات قائمة على المستخدمين، وتفسيرات قائمة على السمات. ترتبط الأساليب القابلة للتفسير القائمة على العناصر بالتوصيات المتعلقة بالعناصر المألوفة، موضحة أن العنصر الموصى به يشبه العناصر الأخرى التي يفضلها المستخدم، والتي تتواجد بكثرة على منصات مثل أمازون ونتفليكس. ومع ذلك، بسبب التعاون، قد تؤدي هذه الأساليب إلى أداء أقل في التوصيات الشخصية التي تتطلب التنوع، وقد تواجه صعوبة في تحديد العناصر ذات الصلة بكفاءة في البيئات الصناعية التي تحتوي على عدد هائل من العناصر. في المقابل، تستفيد التفسيرات القائمة على المستخدمين من العلاقات الاجتماعية لتقديم التوصيات من خلال توضيح أن المستخدمين ذوي الاهتمامات المماثلة يفضلون أيضًا العنصر الموصى به. تجعل خاصية المستخدم الاجتماعية هذه التفسيرات أكثر إقناعًا، مما يشجع المستخدمين على تجربة التوصيات. ومع ذلك، قد تؤدي التباينات في تفضيلات المستخدمين إلى تقليل تأثير هذه الطريقة في قياس التفضيل الفعلي. أخيرًا، تركز التفسيرات القائمة على السمات على تسليط الضوء على السمات الخاصة بالعناصر الموصى بها التي قد يجدها المستخدمون جذابة، مما ينقل بشكل أساسي “قد تهمك هذه الميزات”. تتطلب هذه الطريقة تخصيصًا وفقًا لاهتمامات كل مستخدم، مما يؤدي إلى دقة ورضا أعلى. وبالتالي، فإنها في طليعة البحث.

من الواضح أن مثل هذه الشروحات عادة ما تستخدم تنسيقات محددة مسبقًا وصياغات نمطية، مثل الشروحات المستندة إلى عناصر مشابهة أو أصدقاء. على الرغم من قدرتها على نقل المعلومات الأساسية، قد تؤدي هذه التنسيقات غير المرنة إلى تقليل تجربة المستخدم ورضاه بسبب افتقارها إلى التكيف والتخصيص. لهذا السبب، حظيت أساليب توليد اللغة الطبيعية باهتمام متزايد. اعتمدت الأعمال المبكرة بشكل رئيسي على الشبكات العصبية التكرارية (مثل LSTM و GRU). ومع ذلك، وبسبب محدودية تعبير النموذج، غالبًا ما تعاني من مشكلة نقص التنوع. مع الأداء الممتاز لنماذج Transformer في مهام اللغة الطبيعية المختلفة، حاولت بعض الأعمال دمج نماذج Transformer في التوصيات القابلة للتفسير. استخدم لي وآخرون المتجهات الموضعية المقابلة لمعرفات المستخدم (العنصر) للتنبؤ بالرموز المفسرة. أظهرت الأعمال اللاحقة أن الشرح الناتج لا يمكن أن يبرر تفضيل المستخدم من خلال تجميع أوصاف غير ذات صلة. لذلك، استخدم ني وآخرون مثل هذه المعلومات كمدخلات موجهة إلى BERT للحصول على تبرير قابل للتحكم. نظرًا لأن هذه المعلومات المساعدة ليست متاحة دائمًا في السيناريوهات الواقعية، يتطلب ExBERT فقط الشروحات التاريخية المكتوبة من قبل المستخدمين، ويستخدم مشفرًا قائمًا على الانتباه الذاتي متعدد الرؤوس لالتقاط الصلة بين هذه الشروحات وأزواج المستخدم-العنصر. مؤخرًا، قامت MMCT و EG4Rec و KAER بمزيد من النمذجة الدقيقة للمعلومات مثل الصور المرئية، وسلاسل الزمن، والميول العاطفية للحصول على تفسيرات عالية الجودة. تم القيام بمحاولة مبكرة، LLM4Vis، للتركيز على التوصيات القابلة للتفسير من خلال ChatGPT. يقترح RecExplainer ثلاث استراتيجيات توافقية من أجل القابلية للتفسير.

نظرًا للقوة التعبيرية المحدودة لنماذج اللغة التقليدية، فإن طرق توليد اللغة الطبيعية عرضة لمشاكل الاعتماد على المدى الطويل، أي أن إدخال نصوص طويلة سيؤدي إلى توليد تفسيرات تفتقر إلى التنوع والتماسك في المحتوى. بالإضافة إلى ذلك، فإن هذه الطرق التفسيرية مرتبطة ارتباطًا وثيقًا بنماذج التوصية المحددة (مثل NETE)، أو تصمم مباشرة نموذج توصية جديد (مثل NRT).

بيتر [144])، وغالبًا ما يكونون عاجزين عند مواجهة نماذج التوصية المتقدمة الموجودة، مما يحد من قابليتها للتعميم. هذه أيضًا عيب في الطرق المعتمدة على القوالب. ومن الجدير بالذكر أنه في البيئات الصناعية، تتضمن خوارزميات التوصية غالبًا ليس نموذجًا واحدًا فقط، بل سلسلة أو تكامل لعدة نماذج، وهذه التركيبات المعقدة تزيد من صعوبة فهم التوصيات.

بفضل القدرة التوليدية الملحوظة لنماذج اللغة الكبيرة في مهام اللغة، فهي مثالية لمواجهة التحديات المذكورة أعلاه. أولاً، بفضل الاستفادة من بيانات التدريب الواسعة، تتقن نماذج اللغة الكبيرة استخدام اللغة البشرية، بما في ذلك السياق والاستعارات والتركيب المعقد. وهذا يجهزها لصياغة تفسيرات مخصصة تكون دقيقة وطبيعية وقابلة للتكيف مع تفضيلات المستخدمين المختلفة، مما يقلل من قيود التفسيرات التقليدية القالبية. ثانياً، تتيح القدرات الفريدة للتعلم في السياق لنماذج اللغة الكبيرة، مثل التحفيز بدون أمثلة، والتحفيز بعدد قليل من الأمثلة، والتحفيز بسلسلة من الأفكار، لها جمع تعليقات المستخدمين في الوقت الحقيقي أثناء التفاعلات، وتقديم نتائج التوصيات وتفسيراتها المقابلة، مما يعزز التوافق الثنائي الاتجاه بين الإنسان والآلة. أظهرت دراسة حديثة إمكانية نماذج اللغة الكبيرة في توضيح تعقيدات النماذج المعقدة، كما يتضح من قدرة GPT-4 على تفسير وظيفة كل خلية عصبية في GPT-2 بشكل مستقل من خلال إدخال تحفيزات مناسبة وتفعيل الخلايا العصبية المقابلة. وهذا يعرض نهجًا مبتكرًا لتفسير نماذج التوصية المعتمدة على التعلم العميق. من الضروري التأكيد على أن هذه التقنية التفسيرية غير مرتبطة بهيكل النموذج، مما يميزها عن التفسيرات التقليدية المرتبطة بخوارزميات محددة. وبالتالي، فإن التفسيرات المستندة إلى نماذج اللغة الكبيرة تمهد الطريق لإطار تفسيري متعدد الاستخدامات وقابل للتوسع مع تطبيقات أوسع.

على الرغم من أن نماذج اللغة الكبيرة تتمتع بمزايا كبيرة بطبيعتها في تفسيرات التوصيات، فإنه من الضروري التعرف على القضايا المحتملة. أولاً، مثل نماذج التوصية، تعتبر نماذج اللغة الكبيرة صناديق سوداء يصعب على البشر فهمها. لا يمكننا تحديد المفاهيم التي تستند إليها التفسيرات. أيضًا، قد تكون التفسيرات المقدمة غير صادقة؛ أي أن التفسيرات غير متسقة مع سلوكياتها الموصى بها. تتضمن بعض التطورات الأخيرة استخدام سلاسل من الأفكار لتحفيز التفكير من أجل تحسين القابلية للتفسير؛ ومع ذلك، تظل غموض عملية التفكير في كل خطوة مصدر قلق، وقد تساءل البعض عن إمكانية وجود تفسيرات غير موثوقة لتحفيز سلاسل الأفكار. ثانيًا، قد تشمل البيانات الواسعة التي تستخدمها نماذج اللغة الكبيرة تحيزات بشرية ومحتوى خاطئ. وبالتالي، حتى إذا كانت التفسير متوافقًا مع سلوك التوصية للنموذج، فقد تكون كل من التفسير والتوصية معيبة. من الضروري مراقبة ومعايرة هذه النماذج لضمان العدالة والدقة في التوصيات القابلة للتفسير. أخيرًا، تظهر النماذج التوليدية مستويات متفاوتة من الكفاءة عبر مهام مختلفة، مما يؤدي إلى عدم اتساق في الأداء. قد تؤدي الإشارات الدلالية المتطابقة إلى تفسيرات توصية متباينة. وقد تم إثبات هذا التباين من خلال دراسات حديثة تركز على قوة نماذج اللغة الكبيرة. يتطلب معالجة هذه القضايا استكشاف تقنيات للتخفيف أو حتى تجاوز سلوك التفسير منخفض الموثوقية، والتحقيق في كيفية تدريب نماذج اللغة الكبيرة على توليد تفسيرات توصية موثوقة بشكل متسق، خاصة في ظل ظروف معادية، هو مجال جدير بمزيد من البحث.

مع تطور نماذج اللغة الكبيرة، هناك ملاحظة أن نماذج اللغة الكبيرة تظهر قدرات على التفكير [2,161] عندما تكون كبيرة بما فيه الكفاية، وهو أمر أساسي للبشر.
الذكاء لاتخاذ القرارات وحل المشكلات. من خلال تزويد النماذج بـ ‘سلسلة الأفكار’ [38]، مثل التحفيز بعبارة ‘دعنا نفكر في الأمر خطوة بخطوة’، تظهر نماذج اللغة الكبيرة قدرات ناشئة للتفكير المنطقي ويمكن أن تصل إلى استنتاجات أو أحكام وفقًا للأدلة أو المنطق. وبناءً عليه، فإن أنظمة التوصية، قادرة على التفكير لمساعدة استخراج اهتمامات المستخدم، مما يحسن الأداء.

التعلم في السياق [167-173] هو أحد القدرات الناشئة لنماذج اللغة الكبيرة التي تميزها عن نماذج اللغة المدربة مسبقًا، حيث، عند إعطاء تعليمات بلغة طبيعية وعروض للمهام، ستقوم نماذج اللغة الكبيرة بتوليد المخرجات من خلال إكمال تسلسل الكلمات دون تدريب أو ضبط [3]. بالنسبة للتعلم في السياق، يتبع التحفيز تعليمات المهمة و/أو عدة أزواج من المدخلات والمخرجات لتوضيح المهمة ويتم إضافة مدخل اختبار يتطلب من نموذج اللغة الكبيرة إجراء توقعات. يُطلق على زوج المدخلات والمخرجات اسم لقطة. هذه القدرة الناشئة تمكن من التنبؤ بحالات جديدة دون ضبط على عكس التعلم الآلي السابق.

في مجال أنظمة التوصية، استكشفت العديد من الدراسات أداء التعلم بدون لقطة/بضع لقطات باستخدام نماذج اللغة الكبيرة، تغطي المهام الشائعة للتوصية مثل توقع التقييم، وتوقع الترتيب. تقيم هذه الدراسات قدرة نماذج اللغة على تقديم التوصيات دون ضبط صريح، كما هو ملخص في الجدول 3، حيث تتبنى جميع الطرق التعلم في السياق للمستشارين المباشرين. يمكن إرفاق العملية العامة في الشكل 4. وبناءً عليه، لدينا النتائج التالية:

قدرة ناشئة أخرى مهمة هي التفكير ‘خطوة بخطوة’، حيث يمكن لنماذج اللغة الكبيرة حل المهام المعقدة من خلال استخدام التحفيز الذي يتضمن خطوات التفكير الوسيطة السابقة، والتي تُسمى استراتيجية ‘سلسلة الأفكار’ [38]. صمم وانغ ولِم [164] تحفيزًا من ثلاث خطوات، وهو NIR، لالتقاط تفضيلات المستخدم، واستخراج الأفلام الأكثر تمثيلاً وإعادة ترتيبها.

العناصر بعد تصفية العناصر. مثل هذه الاستراتيجية متعددة الخطوات تعزز بشكل كبير أداء التوصية.

التعلم الآلي الآلي (AutoML) يُطبق على نطاق واسع في أنظمة التوصية للقضاء على الإعداد اليدوي المكلف مع التجارب والأخطاء. يمكن تصنيف مساحة البحث في أنظمة التوصية إلى (1) حجم التضمين (2) الميزات (3) تفاعل الميزات (4) بنية النموذج. يبحث بحث حجم التضمين، مثل [176-179] عن حجم التضمين المناسب لكل ميزة لتجنب استهلاك الموارد بشكل مفرط. البحث عن الميزات يتكون من البحث عن الميزات الخام [180،181] والبحث عن الميزات الاصطناعية [182،183]، والذي يختار مجموعة فرعية من مجموعة الميزات الأصلية أو المتقاطعة للحفاظ على الميزات المفيدة لتقليل كل من تكلفة الحساب والمساحة. البحث عن تفاعل الميزات، مثل [184-188]، يقوم تلقائيًا بتصفية تفاعلات الميزات التي ليست مفيدة. بحث بنية النموذج، مثل [189-192]، يوسع مساحة البحث إلى البنى الكاملة. تنتقل استراتيجية البحث من عملية التعلم المعزز المنفصل، التي تأخذ عينات من البنى للتدريب بشكل متكرر وتستغرق وقتًا طويلاً، إلى البحث القابل للتفريق، الذي يختار بشكل تكيفي البنى ضمن التعلم من لقطة واحدة لتجنب العبء الحسابي، لتحقيق تقارب أكثر كفاءة. ثم يعمل التقييم لكل بنية مأخوذة كإشارة لضبط الاختيارات. أي أن هناك صانع قرار يتذكر النتائج السابقة لاختيارات البنى السابقة ويحلل النتائج السابقة لتقديم الاختيار الموصى به التالي.

تمتلك نماذج اللغة الكبيرة الناشئة قدرات ممتازة على التذكر والتفكير التي ستعمل من أجل التعلم الآلي الآلي. حاولت عدة أعمال التحقق من إمكانيات التعلم الآلي الآلي مع نماذج اللغة الكبيرة. أوليًا، يستفيد GPT-NAS [193] من القدرة التوليدية لنماذج اللغة الكبيرة. يتم صياغة بنية الشبكات في شخصيات متسلسلة، وبالتالي يمكن تحقيق توليد بنى الشبكات بسهولة من خلال نماذج التدريب التوليدية. يتم استخدام NAS-Bench-101 [194] للتدريب المسبق وتستخدم النتائج المتطورة لضبط دقيق. تنتج نماذج التدريب التوليدية بنى معقولة، مما يقلل من مساحة البحث لخوارزميات الجينات اللاحقة للبحث عن البنى المثلى. يتم تقييم القدرة على التفكير المتقدمة نسبيًا بشكل أكبر في GENIUS [195]، حيث يتم استخدام GPT-4 كوكيل صندوق أسود لتوليد بنى محتملة ذات أداء أفضل وفقًا للتجارب السابقة بما في ذلك البنى التي تم تجربتها مع أدائها التقييمي. وفقًا للنتائج، يمكن لـ GPT-4 توليد شبكات بنية جيدة، مما يظهر الإمكانية لمهام أكثر تعقيدًا. ومع ذلك، من الصعب جدًا على نماذج اللغة الكبيرة اتخاذ قرارات مباشرة بشأن المشكلات التقنية الصعبة فقط من خلال التحفيز. لتحقيق التوازن
الكفاءة وقابلية التفسير، إحدى الطرق هي دمج نماذج اللغة الكبيرة في استراتيجيات بحث معينة، حيث توجه خوارزمية الجينات عملية البحث وتولد نماذج اللغة الكبيرة التبادلات المرشحة. تستخدم LLMatic [196] و EvoPrompting [197] نماذج اللغة الكبيرة كعوامل طفرات وتبادلات لخوارزمية NAS الجينية. خلال عملية التطور، كل جيل لديه احتمال معين لتحديد ما إذا كان سيتم إجراء تبادل أو طفرة لإنتاج نسل جديد. يتم توليد التبادلات والطفرات من خلال تحفيز نماذج اللغة الكبيرة. مثل هذا الحل يدمج نماذج اللغة الكبيرة في خوارزمية البحث الجيني، مما يحقق أداءً أفضل من التفكير المباشر على المساحة الكاملة.

تقدم الأبحاث المذكورة أعلاه رؤى قيمة في مجال التعلم الآلي في أنظمة التوصية. ومع ذلك، هناك العديد من التحديات التي تحتاج إلى معالجة. أولاً، مساحة البحث في أنظمة التوصية أكثر تعقيدًا بشكل ملحوظ، حيث تشمل أنواعًا متنوعة من مساحة البحث وتواجه مشكلات كبيرة في الحجم. تشكل هذه التعقيدات تحديًا في استكشاف مساحة البحث وتحسينها بشكل فعال. ثانيًا، مقارنةً ببحث الهيكل الشائع في مجالات أخرى، تفتقر أنظمة التوصية إلى أساس قوي من المعرفة بشأن المكونات المعلوماتية داخل مساحة البحث، خاصةً التفاعلات الفعالة للميزات عالية الترتيب. على عكس الهياكل الشبكية المعروفة في مجالات أخرى، تعمل أنظمة التوصية في مجالات وسيناريوهات متنوعة، مما يؤدي إلى مكونات متنوعة ومحددة المجال. ستمهد معالجة هذه التحديات وتقدم فهم مساحة البحث والمكونات المعلوماتية في أنظمة التوصية الطريق لتحسينات كبيرة في أساليب التعلم الآلي.

نظام التوصية المحادثي (CRS) هو نوع متخصص من أدوات التوصية التي تهدف إلى اكتشاف اهتمامات وتفضيلات المستخدمين من خلال الحوار، مما يمكّن من تقديم توصيات مخصصة وتعديل استراتيجيات التوصية في الوقت الحقيقي بناءً على ملاحظات المستخدم. مقارنةً بأنظمة التوصية التقليدية، تتمتع أنظمة التوصية المحادثية بميزة الفهم الفوري لنوايا المستخدم والقدرة على تكييف التوصيات بناءً على ملاحظات المستخدم. عادةً ما يتكون نظام التوصية المحادثي من مكونين رئيسيين: وحدة الحوار ووحدة التوصية.

في هذا القسم، سنركز بشكل أساسي على مناقشة وحدة الحوار، التي تلعب دورًا حاسمًا في تسهيل التفاعلات الفعالة بين المستخدم والنظام وفهم تفضيلات المستخدم (الشكل 5).

في نظام التوصية المحادثي، تأخذ وحدة الحوار عادةً شكل نظام حوار. يمكن تصنيف أنظمة الحوار عمومًا إلى فئتين رئيسيتين: الدردشة العادية والموجهة نحو المهام. تركز الأولى على الإجابة على الأسئلة في مجالات مفتوحة، وغالبًا ما يتم استخدام طريقتين رئيسيتين: الطرق التوليدية والطرق المعتمدة على الاسترجاع. تستخدم الطرق التوليدية [198-200] هيكل نموذج تسلسل إلى تسلسل لتوليد الردود، بينما تحول الطرق المعتمدة على الاسترجاع [201-203] مهمة توليد الردود إلى مشكلة استرجاع من خلال البحث عن الرد الأكثر صلة في قاعدة بيانات الردود بناءً على سياق الحوار. في أنظمة التوصية المحادثية، غالبًا ما تكون أنظمة الحوار الموجهة نحو المهام مطلوبة، حيث تم تصميمها خصيصًا لمساعدة المستخدمين في إنجاز مهام محددة. بالنسبة لأنظمة الحوار الموجهة نحو المهام، فإن نهجًا شائعًا [24،204] هو اعتبار توليد الردود كخط أنابيب ومعالجته بشكل منفصل باستخدام أربعة مكونات: فهم الحوار [205، 206]، تتبع حالة الحوار [207-209]، تعلم سياسة الحوار [24، 210]، وتوليد اللغة الطبيعية [211،212]. نهج آخر هو استخدام طريقة شاملة [213-215]، حيث يتم تدريب نموذج ترميز-فك ترميز للتعامل مع جميع خطوات المعالجة.

بشكل جماعي. تعاني الطريقة الأولى من مشكلات قابلية التوسع وتفتقر إلى التآزر بين المكونات، بينما تتطلب الطريقة الثانية كمية كبيرة من البيانات المشروطة للتدريب.

استنادًا إلى تصنيف أنظمة الحوار، يمكن أيضًا تقسيم الأساليب الشائعة في أنظمة التوصية المحادثية إلى فئتين: الأسئلة والأجوبة المعتمدة على السمات (QA) والطرق التوليدية. تستخدم طريقة الأسئلة والأجوبة المعتمدة على السمات [24، 216-218] طريقة خط أنابيب داخل نظام الحوار. في كل دورة حوار، يحتاج النظام إلى اتخاذ قرار بشأن ما إذا كان يجب أن يسأل المستخدم سؤالًا أو تقديم توصية. يتم التعامل مع عملية اتخاذ القرار، خاصةً فيما يتعلق بالسمة التي يجب السؤال عنها، عادةً بواسطة شبكة سياسة. من ناحية أخرى، لا تقوم الطرق التوليدية بنمذجة عملية اتخاذ القرار بشكل صريح. بدلاً من ذلك، غالبًا ما تستخدم نهج التدريب الشامل، حيث يقوم نموذج تسلسل إلى تسلسل بتوليد المخرجات مباشرة من مفردات مشتركة من الكلمات والعناصر. سواء كانت المخرجات المولدة دردشة عادية، سؤال، أو توصية يتم تحديدها ضمنيًا خلال عملية التوليد. مقارنةً بأساليب الأسئلة والأجوبة المعتمدة على السمات، تبدو الطرق التوليدية [219-222] أبسط وأكثر قابلية للتوسع. ومع ذلك، فإنها تتطلب كمية كبيرة من بيانات التدريب المشروطة. مع تقدم نماذج اللغة المدربة مسبقًا (PLMs) في مجال معالجة اللغة الطبيعية، وخاصةً نماذج مثل BERT [223] وGPT [224]، أصبحت قدرات النماذج المدربة مسبقًا في فهم اللغة وتوليدها أكثر قوة. وجد الباحثون أن تحسين النماذج المدربة مسبقًا بكمية صغيرة من البيانات المشروطة يمكن أن يؤدي إلى نتائج مثيرة للإعجاب في مهام محددة. أدى هذا الاكتشاف إلى تطبيق PLMs في أنظمة التوصية المحادثية التوليدية. على سبيل المثال، حقق DialoGPT [215] ذكاء حواري واعد من خلال تحسين GPT-2 على بيانات الحوار المجمعة من منصات مثل Reddit. بعد ذلك، استخدمت BARCOR [220] وRecInDial [222] وUniCRS [221] DialoGPT لبناء أنظمة توصية محادثية، مع اختلافات في استراتيجيات اتخاذ القرار الخاصة بهم. بينما تقلل PLMs من اعتماد نماذج الحوار التوليدية على البيانات الواسعة، لا يزال عملية التحسين تتطلب وقتًا كبيرًا من الحوسبة وتحتاج إلى جمع بيانات تدريب عالية الجودة محددة المجال بسبب مساحة المعلمات الكبيرة.

مع زيادة معلمات النموذج وبيانات التدريب، تستمر قدرة الذكاء والمعرفة للنماذج في التحسن. كانت OpenAI توسع معلمات النموذج وبيانات التدريب مع استخدام تقنيات مثل RLHF (التعلم المعزز من

ملاحظات البشر) وضبط التعليمات لتحسين GPT-3 [3]. أدى ذلك إلى ظهور قدرات نماذج مثل InstructGPT [37] ونماذج لاحقة مثل ChatGPT، التي تظهر ذكاءً مذهلاً وفتحت الأبواب أمام أنظمة الحوار الذكية الجديدة المعتمدة على نماذج اللغة الكبيرة (LLMs). علاوة على ذلك، فإن نموذج BARD من Google وLLaMA من META [32] هما أيضًا نماذج حوارية كبيرة تم اقتراحها وأظهرت أداءً ملحوظًا في القدرات المحادثية. على سبيل المثال، يستخدم نموذج Vicuna مجموعات حوارية مشتركة من قبل المستخدمين في استخدام ChatGPT لتحسين نموذج LLaMA مفتوح المصدر، حيث يدعي الفريق أنه يمكن أن يحقق أكثر من قدرة ChatGPT. لقد جلبت هذه السلسلة من إدخال نماذج اللغة الكبيرة الجديدة رؤى جديدة إلى أنظمة التوصية المحادثية. نظرًا لاستخدام مجموعات بيانات مفتوحة واسعة النطاق أثناء تدريب LLM، فإن لديها قدرات توصية محادثية فطرية ويمكن أن تقدم توصيات معقولة في مجالات مفتوحة مثل الأفلام والموسيقى والأخبار والألعاب.

ومع ذلك، لا تزال هناك تحديات كبيرة في بناء نظام إدارة علاقات العملاء على مستوى المؤسسات. التحدي الأول هو نقص الوعي بالنماذج الكبيرة حول بيانات المجال الخاص. من المعروف أن معظم بيانات التدريب للنماذج اللغوية الكبيرة، مثل GPT-3، تأتي من مصادر متاحة للجمهور على الإنترنت. ونتيجة لذلك، قد تفتقر هذه النماذج إلى الرؤية حول البيانات التي توجد داخل منصات المعلومات، مما يجعل قدراتها على النمذجة وفهم مثل هذه البيانات ضعيفة نسبيًا. لمعالجة هذا التحدي، يتم حاليًا استكشاف نهجين: التخصيص الدقيق [215] وتعلم الأدوات [225، 226]. يتضمن التخصيص الدقيق ضبط النموذج اللغوي الكبير باستخدام بيانات حوار خاصة بالمجال. هناك قلقان رئيسيان في هذا النهج. أولاً، يتطلب الأمر بيانات حوار ضخمة وعالية الجودة خاصة بالمجال لضبط النموذج الكبير للغاية. ومع ذلك، في معظم سيناريوهات التوصية، تتكون البيانات بشكل أساسي من تفاعلات المستخدم-العنصر الصريحة أو الضمنية، والتي قد تفتقر إلى سياق المحادثة. لذلك، فإن توليد بيانات حوار عالية الجودة من بيانات التفاعل هو مصدر قلق رئيسي في هذا النهج. في RecLLM [226] و iEvaLM [227]، اقترح الباحثون استخدام النماذج اللغوية الكبيرة لبناء محاكي مستخدم لتوليد بيانات حوارية. بالإضافة إلى ذلك، تلعب تقنية التخصيص الدقيق دورًا حاسمًا في تحديد الجودة النهائية للنماذج اللغوية الكبيرة. يمكن أن تؤدي استراتيجية تخصيص دقيقة ومصممة بشكل جيد إلى تحسينات كبيرة في أداء النموذج وقدراته، مثل ضبط التعليمات وRLHF المقترح في InstructGPT [3]. تعلم الأدوات هو نهج آخر لمعالجة هذا التحدي، وفكرته الرئيسية هي اعتبار نماذج التوصية التقليدية كأدوات يمكن استخدامها، مثل تحليل المصفوفات (MF) وDeepFM. لمزيد من الشرح التفصيلي حول تعلم الأدوات، يرجى الرجوع إلى القسم 9. نظرًا لأن نماذج التوصية خاصة بالمجال، يمكن للنموذج اللغوي الكبير الاستفادة من هذه النماذج للحصول على نتائج التوصية وتوصيتها للمستخدمين في الاستجابة. في هذا النهج، هناك نقطتان تقنيتان رئيسيتان: بناء نموذج الأداة وهندسة المطالبات لتوجيه النموذج اللغوي الكبير في الاستخدام الصحيح للأداة. أولاً وقبل كل شيء، تستخدم نماذج التوصية التقليدية عمومًا معرفات أو ميزات فئوية كمدخلات، بينما يقدم المستخدمون دائمًا متطلباتهم أو تفضيلاتهم بلغة طبيعية في المحادثات. لذلك، يجب أخذ ميزات النص غير المنظم في الاعتبار في بناء الأداة. في Chat-Rec [225]، يتم استخدام نموذج توصية تقليدي ونموذج قائم على تضمين النص (text-embedding-ada-002) كأدوات. قامت RecLLM [226] بتكييف نموذج لغوي معزز بنموذج ثنائي التشفير وعدة طرق لاسترجاع النصوص كمحرك توصية. من ناحية أخرى، على الرغم من الذكاء القوي وقدرات الاستدلال للنماذج اللغوية الكبيرة، فإن الاستفادة الفعالة من هذه القدرات تتطلب مطالبات مصممة بشكل جيد للتوجيه. على سبيل المثال، يمكن أن يؤدي سلسلة التفكير المقترحة من قبل جيسون [38] إلى تحفيز النموذج اللغوي الكبير على التفكير والاستدلال خطوة بخطوة، مما
يفيد قدرة استخدام الأداة. وقد اقترحت الدراسات اللاحقة مثل ToT [228] وPlan-and-Solve [229] وReAct [230] تقنيات أكثر تقدمًا لتصميم المطالبات للمساعدة في توجيه النموذج اللغوي الكبير للانخراط في تفكير أعمق وتخطيط الأدوات.

التحدي الثاني يكمن في قضية الذاكرة والفهم في المحادثات الطويلة. بسبب قيود الإدخال للنماذج اللغوية الكبيرة، يمكن لنماذج مثل ChatGPT دعم حد أقصى يبلغ 4096 رمزًا في مكالمة واحدة، بما في ذلك كل من الإدخال والإخراج. في سيناريوهات الحوار متعددة الأدوار، غالبًا ما تواجه سياقات الحوار الأطول خطر تجاوز هذا الحد من الرموز. أبسط نهج لمعالجة هذا التحدي هو تقليم الحوار عن طريق التخلص من الأدوار السابقة. ومع ذلك، في أنظمة التوصية الحوارية، قد يعبر المستخدمون عن كمية كبيرة من المعلومات الشخصية والاهتمامات في المراحل المبكرة من المحادثة. إن حذف مثل هذه المعلومات يؤثر مباشرة على دقة التوصيات. لمعالجة هذه القضية، اقترحت عدة أعمال ذات صلة حلولًا. يعزز MemPrompt [231] المطالبة من خلال دمج وحدة ذاكرة، مما يمكّن GPT-3 من امتلاك قدرة ذاكرة أقوى للحوار الطويل. وبالمثل، تستفيد RecLLM [226] من النموذج اللغوي الكبير لاستخراج ملفات تعريف المستخدمين وتخزينها كبيانات واقعية في ذاكرة المستخدم. عند معالجة استفسارات المستخدم، يتم استرجاع الحقائق ذات الصلة بناءً على تشابه النص.

يعد تعلم الأدوات مجال بحث ناشئ يهدف إلى تعزيز قدرات حل المهام من خلال دمج أدوات متخصصة مع نماذج أساسية، والتي تم فهمها من قبل [232] على أنها منظورين:

تُستخدم النماذج اللغوية الكبيرة عادة كعناصر تحكم لاختيار وإدارة نماذج الذكاء الاصطناعي المختلفة الموجودة لحل المهام المعقدة، والتي تعتمد على مدخلات المستخدم وواجهات اللغة في إجراء الملخصات. تعمل كنقطة مركزية، مسؤولة عن فهم بيانات المشكلة واتخاذ قرارات بشأن الإجراءات التي يجب تنفيذها. بالإضافة إلى ذلك، تجمع النتائج بناءً على نتائج الإجراءات المنفذة. في هذه الحالة، يستفيد HuggingGPT [243] من النماذج الموجودة من مجتمع Hugging Face للمساعدة في

حل المهام. يجمع Visual ChatGPT [244] بين نماذج الأساس البصرية مثل BLIP [247] وStable Diffusion [248]، إلخ، مع LangChain للتعامل مع المهام البصرية المعقدة، بينما يقوم ما يليTaskMatrix.AI[245] بالحفاظ على منصة API موحدة تمدد قدرات Visual ChatGPT، وتوسع قدرات Visual ChatGPT من خلال الحفاظ على منصة API موحدة، مما يمكّن المدخلات من عدة أنماط ويولد حلول مهام أكثر تعقيدًا. على العكس من ذلك، يعمل Auto-GPT كوكيل يفهم بشكل مستقل الأهداف المحددة من خلال اللغة الطبيعية وينفذ جميع العمليات في حلقة آلية، دون الحاجة إلى مدخلات بشرية إلزامية.

يقدم WebGPT [239] بيئة تفاعلية لتصفح الويب تعتمد على النصوص، حيث تتعلم نماذج اللغة الكبيرة تقليد العملية الكاملة للتفاعل البشري مع متصفح الويب باستخدام تقنيات استنساخ السلوك وعينات الرفض. في ReAct [230]، من خلال الاستفادة من موجه بديهي، تتعلم نماذج اللغة الكبيرة توليد مسارات التفكير وإجراءات محددة للمهام بالتناوب عند حل مهمة معينة. يتم تفويض تنفيذ الإجراءات المحددة إلى الأدوات المقابلة، ويتم استخدام التعليقات الخارجية التي تم الحصول عليها من هذه الأدوات للتحقق من صحة وتوجيه عملية التفكير بشكل أكبر. تتماشى الدوافع وراء Toolformer [246] بشكل وثيق مع ReAct؛ ومع ذلك، فإنها تتقدم خطوة إلى الأمام من خلال دمج أدوات متنوعة ضمن نموذج واحد. يوفر هذا التكامل للنموذج قدرات مرنة في اتخاذ القرار وقدرات تحسين عامة، تم تحقيقها من خلال طريقة بسيطة ولكن فعالة للتعلم الذاتي. على عكس الأعمال السابقة، تتبنى LATM [249] نهجًا جديدًا من خلال تمكين نماذج اللغة الكبيرة من توليد الأدوات مباشرة. تحقق تقسيم العمل ضمن عملية حل المهام من خلال استخدام نماذج اللغة الكبيرة على مقاييس مختلفة: صانع الأدوات، مستخدم الأدوات، والموزع. تتكون LATM بالكامل من نماذج اللغة الكبيرة، مما يمكّن من توليد الأدوات واستخدامها ذاتيًا.

مؤخراً، أظهرت نماذج اللغة الكبيرة قدرات مثيرة للإعجاب في الاستفادة من المعرفة الداخلية للعالم والتفكير السليم لفهم نية المستخدم بدقة من الحوارات. علاوة على ذلك، يمكن لنماذج اللغة الكبيرة التواصل مع المستخدمين بطلاقة باللغة الطبيعية، مما يوفر تجربة مستخدم سلسة وممتعة. تجعل هذه المزايا نماذج اللغة الكبيرة خيارًا جذابًا كعملاء توصية لتعزيز التجربة المخصصة.

ومع ذلك، على الرغم من سعة الذاكرة المثيرة للإعجاب لنماذج اللغة الكبيرة، فإنها تواجه تحديات في تذكر المعرفة المحددة في المجالات الخاصة والخاصة دون تدريب كافٍ. على سبيل المثال، يمكن أن يكون تخزين مجموعة العناصر وجميع ملفات تعريف المستخدمين في نظام التوصية تحديًا لنماذج اللغة الكبيرة. يمكن أن تؤدي هذه القيود إلى توليد نماذج اللغة الكبيرة استجابات غير دقيقة أو خاطئة وتجعل من الصعب التحكم في سلوكها ضمن مجال معين. علاوة على ذلك، تواجه نماذج اللغة الكبيرة تحدي مشكلة التعميم الزمني حيث تستمر المعرفة الخارجية في التطور والتغيير مع مرور الوقت. لمعالجة هذه القضايا، يمكن استخدام أدوات متنوعة لتعزيز نماذج اللغة الكبيرة وزيادة فعاليتها كعملاء توصية. يوضح الجدول 4 أمثلة على الأدوات ذات الصلة.

محرك البحث تُستخدم محركات البحث على نطاق واسع لتوفير المعرفة الخارجية لنماذج اللغة الكبيرة، مما يقلل من عبء الذاكرة على نماذج اللغة الكبيرة ويخفف من حدوث الهلوسة في استجابات نماذج اللغة الكبيرة. يستخدم BlenderBot 3 [250] مجموعات بيانات محددة لضبط سلسلة من الوحدات، مما يمكّن نماذج اللغة الكبيرة من تعلم استدعاء محرك البحث في الوقت المناسب واستخراج المعرفة المفيدة من نتائج الاسترجاع. تتعلم LaMDA [238] استخدام مجموعة أدوات تتضمن IR

نظام، مترجم، وآلة حاسبة من خلال الضبط الدقيق لتوليد استجابات أكثر دقة. RETA-LLM [251] هو مجموعة أدوات لنماذج اللغة الكبيرة المعززة بالاسترجاع. تفصل تمامًا بين أنظمة IR ونماذج اللغة الكبيرة، مما يسهل تطوير أنظمة قائمة على نماذج اللغة الكبيرة في المجال. يظهر Thoppilan وآخرون [238] حالة من تطبيق LaMDA في توصية المحتوى. مشروطًا على عدد قليل من الحوارات الخاصة بالأدوار، يمكن أن تلعب LaMDA دور وكيل توصية موسيقية.

محرك التوصية حاولت بعض الأعمال تخفيف عبء الذاكرة على نماذج اللغة الكبيرة من خلال تجهيزها بمحرك توصية كأداة، مما يمكّن نماذج اللغة الكبيرة من تقديم توصيات مستندة إلى مجموعة العناصر. يتم تقسيم محرك التوصية في ChatREC [225] إلى مرحلتين: الاسترجاع وإعادة التصنيف، مما يتماشى مع استراتيجيات نظام التوصية التقليدية. في مرحلة الاسترجاع، تستخدم نماذج اللغة الكبيرة أنظمة التوصية التقليدية كأدوات لاسترجاع 20 عنصرًا من مجموعة العناصر كمجموعة عناصر مرشحة. بعد ذلك، تستخدم نماذج اللغة الكبيرة نفسها كأدوات لإعادة تصنيف مجموعة العناصر المرشحة. تتيح قدرة نماذج اللغة الكبيرة على التفكير السليم، جنبًا إلى جنب مع المعرفة الداخلية الموجودة فيها، تقديم تفسيرات لنتائج الفرز. الأداة المستخدمة في محرك التوصية في RecLLM [226] مشابهة جدًا لها في Chat-REC، وهي أيضًا مقسمة إلى مراحل الاسترجاع وإعادة التصنيف. يوفر RecLLM العديد من الحلول العملية للاسترجاعات على نطاق واسع، مثل نموذج الترميز المزدوج العام والبحث القائم على المفهوم، وما إلى ذلك.

قاعدة البيانات تُستخدم قواعد البيانات أيضًا كأدوات لتكملة المعلومات الإضافية لنماذج اللغة الكبيرة. من أجل التعامل بشكل أفضل مع مشكلة البداية الباردة للعناصر الجديدة وتخفيف مشكلة التعميم الزمني لنماذج اللغة الكبيرة، يتم استخدام قاعدة بيانات متجهة لتوفير المعلومات للعناصر الجديدة التي لا تعرفها نماذج اللغة الكبيرة في Chat-REC [225]. عند مواجهة عناصر جديدة، يمكن لنماذج اللغة الكبيرة استخدام هذه القاعدة للوصول إلى معلومات حولها بناءً على التشابه بين تضمين طلب المستخدم وتضمينات العناصر في القاعدة. يمكن أن تساعد ملفات تعريف المستخدمين أيضًا نماذج اللغة الكبيرة في فهم نية المستخدم بشكل أفضل. يستخدم RecLLM [226] وحدة ملف تعريف المستخدم كأداة لتخزين حقائق ذات مغزى ودائمة حول المستخدمين التي تم التعرض لها خلال المحادثات التاريخية في ذاكرة المستخدم واسترجاع حقيقة واحدة تتعلق بالحوار الحالي عند الحاجة.

على الرغم من أن بعض الأعمال قد طبقت مفهوم تعلم الأدوات على أنظمة التخصيص، لا تزال هناك مواضيع بحثية مثيرة وواعدة تستحق الاستكشاف. 1) ضبط النماذج لاستخدام أفضل للأدوات. لقد أظهرت التعلم في السياق وعدًا في تعليم نماذج اللغة الكبيرة كيفية استخدام الأدوات بفعالية مع عدد قليل من العروض، كما هو موضح في Chat-REC و RecLLM. ومع ذلك، غالبًا ما واجهت نماذج اللغة الكبيرة صعوبة في تعلم استراتيجيات التعامل مع السياقات المعقدة مع عروض محدودة. يعتبر الضبط خيارًا قابلاً لتحسين استخدام الأدوات، لكنه يتطلب بيانات تدريب كافية وتقنيات فعالة. يقوم RecLLM بمزيد من الضبط لبعض وحداته باستخدام بيانات اصطناعية تم إنشاؤها بواسطة محاكي مستخدم من خلال تقنية RLHF [37]. إن التحقيق في طرق الحصول على بيانات تدريب كافية وتطوير تقنيات ضبط مخصصة لأنظمة التوصية هو اتجاه بحثي يستحق العناء. 2) تطوير محرك توصية أكثر قوة. غالبًا ما تعتمد أنظمة التوصية التقليدية على إشارات التصفية التعاونية وعلاقات الانتقال من عنصر إلى عنصر للتوصيات. ومع ذلك، مع استخدام نماذج اللغة الكبيرة كنماذج أساسية، يمكن أن تعكس تفضيلات المستخدمين من خلال اللغة الطبيعية وحتى الصور. لذلك، فإن تطوير محرك توصية يدعم البيانات متعددة الوسائط هو اتجاه بحثي حاسم. بالإضافة إلى ذلك، يجب أن يكون محرك التوصية قادرًا أيضًا على ضبط مجموعة المرشحين بناءً على تفضيلات المستخدم أو ملاحظاته (مثل استعلام عن أفلام من نوع معين أو عدم الإعجاب بعنصر في مجموعة التوصيات). 3) بناء المزيد من الأدوات. لتزويد نماذج اللغة الكبيرة بمعلومات أكثر أصالة وتخصيصًا، فإن تطوير أدوات إضافية أمر حاسم. على سبيل المثال، يمكن أن تعزز واجهات برمجة التطبيقات لاستعلام الرسوم البيانية المعرفية [252] أو الوصول إلى العلاقات الاجتماعية للمستخدمين المعرفة المتاحة لنماذج اللغة الكبيرة، مما يمكّن من تقديم توصيات أكثر دقة وتخصيصًا.
يمكن أن تعزز العلاقات الاجتماعية المعرفة المتاحة لنماذج اللغة الكبيرة، مما يمكّن من تقديم توصيات أكثر دقة وتخصيصًا.

تركز أنظمة التوصية التقليدية على اقتراح العناصر الموجودة بناءً على تفضيلات المستخدم والبيانات التاريخية، حيث يتم عرض المحتوى الذي تم إنشاؤه بالفعل للاسترجاع. ومع ذلك، مع التقدم في التقنيات والمنصات لمنشئي المحتوى، جذب منشئ المحتوى المخصص المزيد والمزيد من الانتباه، حيث يتم تخصيص محتوى أكثر جاذبية ليتناسب مع اهتمامات وتفضيلات المستخدم، خاصة في مجال الإعلان عبر الإنترنت [253]. تحتوي المحتويات الشائعة على المحتويات المرئية والدلالية [254-256]، مثل العنوان، الملخص، الوصف، الكتابات الإعلانية، لافتات الإعلانات، الصورة المصغرة، ومقاطع الفيديو. موضوع آخر تم مناقشته على نطاق واسع هو توليد إعلانات نصية، حيث يتم توليد عنوان الإعلان ووصف الإعلان بمعلومات مخصصة. اعتمدت الأعمال السابقة على القوالب المحددة مسبقًا [254، 257، 258] لتقليل الجهد البشري الكبير، والذي، مع ذلك، غالبًا ما يفشل في تلبية اهتمامات وتفضيلات المستخدم بالكامل. ظهرت مؤخرًا طرق مدفوعة بالبيانات، والتي تدمج ملاحظات المستخدم كمكافآت في إطار التعلم المعزز لتوجيه عملية التوليد [259-262]. علاوة على ذلك، لعب دمج نماذج اللغة المدربة مسبقًا دورًا كبيرًا في تحسين عملية التوليد لعدة عناصر محتوى [263-266]. يساعد هذا الدمج في تحسين نماذج توليد المحتوى وزيادة قدرتها على تلبية تفضيلات المستخدم بشكل فعال.

مع استمرار تطور أنظمة التوصية ونماذج اللغة الكبيرة، فإن تقنية واعدة ستجلب فرصًا جديدة هي دمج المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي (AIGC). يتضمن AIGC [267] إنشاء محتوى رقمي، مثل الصور والموسيقى واللغة الطبيعية من خلال نماذج الذكاء الاصطناعي، بهدف جعل عملية إنشاء المحتوى أكثر كفاءة وسهولة. ركزت الجهود السابقة في هذا المجال على نماذج توليد تعتمد على التعلم العميق، بما في ذلك الشبكات التنافسية التوليدية (GANs) [268]، والمشفرات التلقائية المتغيرة (VAEs) [269]، وتدفقات التطبيع [270]، ونماذج الانتشار [271] لتوليد صور عالية الجودة. مع تطور النموذج التوليدي، يظهر في النهاية كهيكل المحول [28]، الذي يعمل ككتل أساسية لـ BERT [29] و GPT [224] في مجال معالجة اللغة الطبيعية، ولـ Vision Transformer (ViT) [272] و Swin Transformer [273] في مجال الرؤية الحاسوبية. علاوة على ذلك، توسع نطاق مهام التوليد من المهام أحادية الوضع إلى المهام متعددة الأوضاع، بما في ذلك النموذج التمثيلي CLIP [274]، الذي يمكن استخدامه كمشفرات صور مع تحفيز متعدد الأوضاع للتوليد. أصبحت التوليد متعددة الأوضاع جانبًا أساسيًا من AIGC، الذي يتعلم الاتصال والتفاعل متعدد الأوضاع، وعادة ما يتضمن توليد لغة الرؤية [274]، وتوليد نصوص صوتية [275]، وتوليد نصوص الرسوم البيانية [276]، وتوليد نصوص الشيفرة [277]. مع ظهور نماذج اللغة الكبيرة، يتم تحقيق AIGC اليوم من خلال استخراج النية البشرية من التعليمات وتوليد المحتوى وفقًا لمعرفته ونيته. لقد حصلت المنتجات التمثيلية، بما في ذلك ChatGPT [278]، DALL-E-2 [279]، Codex [280] و Midjourney [281]، على اهتمام كبير من المجتمع. مع زيادة البيانات وحجم النموذج، يمكن للنموذج تعلم معلومات أكثر شمولاً وبالتالي يؤدي إلى منشئي محتوى أكثر واقعية وعالية الجودة.

بالعودة إلى منشئ المحتوى المخصص، ستجلب نماذج اللغة الكبيرة الفرص من النقاط التالية (الشكل 6). ستقوم نماذج اللغة الكبيرة بتوسيع

قدرات النموذج المدرب مسبقًا، مما يسمح بتحسين أفضل لاستنتاج نية واهتمام المستخدم المخصص. قد يتم تحسين الطرق السابقة [264، 265] التي تعتمد على نماذج التدريب المسبق المخصصة لتحسين قدرات الاستنتاج وتحفيز القليل من العروض. ثانيًا، يمكن تطبيق استراتيجية التعلم المعزز من ملاحظات البشر (RLHF) لضبط النماذج لالتقاط معلومات نية المستخدم بشكل أفضل، مشابهًا لإطار العمل القائم على التعلم المعزز الحالي [260] لتوليد إعلانات نصية. وآخرًا وليس آخرًا، فإن القدرات التوليدية القوية لنماذج اللغة الكبيرة تمكّن من إنشاء واقعي بفضل توفر قواعد المعرفة متعددة الأوضاع الكافية. العمل [282] يقترح بشكل أكثر تحديدًا نموذج توصية قائم على ChatGPT، حيث تتلقى عملية التوليد ملاحظات وجولات متعددة من التحويلات لالتقاط تفضيلات المستخدم الصريحة بشكل أفضل. مقارنةً بأنماط التدريب السابقة، يمكن لنماذج اللغة الكبيرة فهم تعبيرات أكثر وضوحًا لاهتمام المستخدم وتحويلها إلى تعليمات مناسبة لتوجيه توليد المحتوى، مما يخفف بشكل كبير من مشكلة الملاحظات النادرة للغاية. يوفر دمج AIGC (الذكاء الاصطناعي والمحتوى التوليدي) مع أنظمة التوصية فرصًا قيمة في سيناريوهات الأعمال المختلفة. في التجارة الإلكترونية، يمكن أن تدعم نماذج اللغة الكبيرة الدردشة الآلية لتوصيات المنتجات المخصصة وإنشاء محتوى جذاب لجذب المستخدمين. في خدمة العملاء، يمكّن AIGC من الاستجابات الآلية، والأسئلة الشائعة، والمساعدة المخصصة، مما يحسن من كفاءة الدعم ورضا العملاء. بشكل عام، يعزز دمج AIGC مع أنظمة التوصية تجارب المستخدمين ويدفع نمو الأعمال.

ومع ذلك، هناك خطران رئيسيان يتعلقان بالأمان والخصوصية لمنشئي المحتوى المخصص. أحد المخاوف هو موثوقية نماذج مثل ChatGPT من حيث الحقائق، كما هو موضح في العمل [283]. بينما تولد هذه النماذج محتوى يبدو معقولًا، هناك خطر توزيع معلومات مضللة أو غير دقيقة، مما يمكن أن يضعف مصداقية محتوى الإنترنت. تصبح هذه المشكلة أكثر أهمية في التوصيات المخصصة، حيث قد يروج النموذج عن غير قصد لمعلومات مضللة مصممة لتناسب اهتمامات المستخدم. يتعلق القلق الثاني بخصوصية البيانات، التي تشمل كل من ملفات تعريف المستخدمين وتواريخ التفاعل البشرية طويلة الأمد. في حالة نماذج اللغة الكبيرة، يتم جمع هذه التواريخ أو مشاركتها، مما قد يؤدي إلى
نماذج تتذكر بيانات المستخدم الحساسة. أظهرت الأعمال السابقة [284] أن نماذج اللغة الكبيرة، وخاصة GPT-2 [285]، تتذكر وتكشف عن أمثلة تدريب فردية. وهذا يبرز الحاجة إلى موافقة صارمة من المستخدم والتعامل الحذر مع بيانات المعلقين لتقليل مخاطر الخصوصية. من الضروري تطوير تقنيات جديدة تعطي الأولوية للحفاظ على الخصوصية خلال عملية التدريب.

تعتبر خدمات التخصيص، وخاصة مع أنظمة التوصية، منتجات صناعية معقدة تواجه العديد من التحديات عند تنفيذها في سيناريوهات العالم الحقيقي. سنلخص الآن التحديات الرئيسية على النحو التالي:

توسيع الموارد الحاسوبية تتطلب نماذج اللغة الكبيرة الحالية، مثل BERT و GPT، طاقة حاسوبية كبيرة للتدريب والاستدلال. يشمل ذلك استخدام ذاكرة عالية واستهلاك وقت. يمكن أن يكون ضبط هذه النماذج لتوافقها مع أنظمة التخصيص، التي أظهرت نتائج واعدة لتحسين أداء التخصيص، مكلفًا من الناحية الحاسوبية. تم تطوير العديد من استراتيجيات الضبط الفعالة، مثل ضبط الخيارات في M6-Rec [175]، Lora [286]، QLora [287]، لمعالجة هذه المشكلة وتمهيد الطريق لضبط أكثر كفاءة.

زمن استجابة كبير إن تحقيق أوقات استجابة فعالة أمر حاسم للخدمة عبر الإنترنت ويؤثر بشكل كبير على تجربة المستخدم المخصصة. يشمل زمن الاستجابة كل من مرحلة الاستدلال لنماذج اللغة الكبيرة وطلبات المستخدم المتزامنة بأعداد كبيرة. يمكن أن يؤدي إدخال نماذج اللغة الكبيرة إلى زيادة زمن الاستدلال بشكل كبير، مما يشكل تحديًا للنشر في العالم الحقيقي. إحدى الطرق هي حساب تمثيلات المخرجات الوسيطة من نماذج اللغة مسبقًا، وتخزينها وفهرستها في قاعدة بيانات متجهات، خاصة للطرق التي تستخدم نماذج اللغة الكبيرة كمشفرات نصية. تهدف طرق أخرى، مثل التقطير والتكميم، إلى تحقيق توازن بين الأداء والكمون.

من المعروف على نطاق واسع أن نماذج اللغة الكبيرة تستفيد من كميات هائلة من المعرفة في المجالات المفتوحة خلال عمليات التدريب والضبط الخاصة بها. تشمل هذه المصادر المعرفية مراجع معروفة مثل ويكيبيديا والكتب ومواقع الويب المختلفة [3]. بالمثل، عند تطبيقها في أنظمة التوصية، غالبًا ما تعتمد هذه النماذج على مجموعات بيانات تمثيلية في المجالات المفتوحة مثل MovieLens و Amazon Books. بينما تحتوي هذه المعرفة في المجالات المفتوحة على ثروة من المعلومات البديهية، تتطلب المهام المخصصة الوصول إلى بيانات أكثر تخصصًا لا يمكن مشاركتها بسهولة. بالإضافة إلى ذلك، يمكن أن تكون طبيعة ملاحظات المستخدم في المهام المخصصة معقدة ونادرة، وغالبًا ما تكون مصحوبة بملاحظات ضوضائية. إن جمع وتصنيف هذه البيانات، على عكس الحصول على المعرفة البديهية، يمثل تحديات. يتطلب ذلك تكاليف عمل أعلى ويقدم تكرار تدريب إضافي بسبب الحاجة إلى معالجة وتصنيف البيانات بشكل مكثف. علاوة على ذلك، فإن تصميم مطالبات مناسبة لتوجيه أو ضبط نماذج اللغة الكبيرة أمر حاسم لمواءمتها مع توزيع المدخلات في المجال في مهام التخصيص. من خلال تخصيص المطالبات بعناية،
يمكن للباحثين والممارسين توجيه النموذج لإنتاج مخرجات تلبي بشكل أفضل التطبيقات المخصصة، مما يزيد من الأداء والفعالية.

تواجه نماذج اللغة الكبيرة حدًا على الحد الأقصى لعدد الرموز المدخلة التي يمكنها التعامل معها، وعادة ما تكون مقيدة بحجم نافذة السياق، مثل 4096 لـ ChatGPT. وهذا يشكل تحديات عند التعامل مع تسلسلات سلوك المستخدم الطويلة، والتي تكون شائعة في أنظمة التوصية الحديثة. من الضروري تصميم بعناية لتوليد مدخلات مطالبات فعالة ومناسبة ضمن هذا الطول المحدود. في حالة المحادثات ذات الجولات المتعددة، يمكن أن يتجاوز تراكم عدة جولات من الحوار بسهولة حد الرموز للنماذج. النهج الحالي في التعامل مع المحادثات الطويلة هو تقصير التاريخ، مع الاحتفاظ فقط بأحدث الرموز. ومع ذلك، فإن هذا التقطيع يتجاهل معلومات تاريخية قيمة، مما قد يضر بأداء النماذج. لمعالجة هذه التحديات، يمكن استخدام عدة تقنيات. إحدى الطرق هي إعطاء الأولوية واختيار الأجزاء الأكثر صلة من تسلسل سلوك المستخدم أو تاريخ المحادثة لتضمينها في المطالبة. يمكن أن يكون هذا الاختيار بناءً على معايير مختلفة مثل الحداثة أو الأهمية أو الصلة بالمهمة المطروحة. تتضمن تقنية أخرى تلخيص أو ضغط المدخلات الطويلة مع الحفاظ على المعلومات الأساسية. يمكن تحقيق ذلك من خلال تقنيات مثل التلخيص الاستخراجي أو تمثيل التسلسل الطويل في شكل مكثف. علاوة على ذلك، يمكن استكشاف التعديلات المعمارية، مثل النماذج الهرمية أو المعززة بالذاكرة، للتعامل بشكل أفضل مع التسلسلات الطويلة من خلال دمج آليات لتخزين واسترجاع المعلومات ذات الصلة بكفاءة.

بالإضافة إلى ذلك، فإن النمذجة التعاونية لبيانات النصوص الطويلة ومهام التوصية تمثل تحديًا ناشئًا وملحًا. في أنظمة التخصيص التقليدية، يتم استخدام معلومات معرف العنصر جنبًا إلى جنب مع معلومات فئوية أخرى بشكل شائع لنمذجة تفاعلات الميزات وتفضيلات المستخدم. مع ظهور نماذج اللغة الكبيرة، سيكون هناك اتجاه متزايد نحو الاستفادة من المعلومات النصية بشكل أكثر شمولاً. توفر البيانات النصية رؤى فريدة حول العناصر أو المستخدمين، مما يجعلها قيمة لأغراض النمذجة. من منظور النمذجة، يتطلب التعامل مع بيانات النصوص الطويلة مزيدًا من الاهتمام والتعقيد مقارنةً بالبيانات الفئوية، ناهيك عن الحاجة إلى مطابقة نمذجة اهتمامات المستخدم. من منظور التنفيذ، يصبح من الضروري إصلاح خط الأنابيب بالكامل لاستيعاب متطلبات الكمون الفعال. هناك تحديات تقنية تتمثل في دمج بيانات النصوص الطويلة في نماذج التوصية وتقديمها في الوقت الحقيقي.

بينما توفر نماذج اللغة الكبيرة قدرات جيدة في التفكير، إلا أنها معروفة بطبيعة ‘الصندوق الأسود’، التي تكون معقدة وغير خطية بشكل كبير في حجمها الضخم وبنيتها الطبقية، مما يجعل من الصعب فهم كيفية عملها الداخلية وفهم عملية توليد التوصيات. بدون فهم عميق لكيفية عمل النموذج، يصبح من الصعب اكتشاف ومعالجة التحيزات أو ضمان توصيات عادلة وأخلاقية. بمجرد أن تفتقر الشفافية حول الآليات الداخلية، يكافح المستخدمون للثقة في القرارات التي يتخذها النظام وقبولها. غالبًا ما يرغب المستخدمون في الحصول على تفسيرات مفهومة للاختيارات الموصى بها. يتطلب معالجة تحدي قابلية تفسير النموذج وشرحه بحثًا يتضمن معالجة اللغة الطبيعية، والذكاء الاصطناعي القابل للتفسير، وتفاعل الإنسان مع الكمبيوتر، وأنظمة التوصية. إن تطوير تقنيات
التي تكشف عن كيفية عمل نماذج اللغة، وتسهيل توليد تفسيرات ذات مغزى ودقيقة، وتمكين طرق تقييم قوية هو التركيز الرئيسي. من خلال تقديم توصيات شفافة وقابلة للتفسير، يمكن للمستخدمين بناء الثقة، وفهم الأسباب وراء التوصيات، واتخاذ قرارات مستنيرة.

تعتمد أنظمة التخصيص التقليدية عادةً على مقاييس محددة للمهام مثل مقاييس الترتيب، NDCG، AUC، وRecall لتقييم أداء النموذج. ومع ذلك، مع دمج نماذج اللغة الكبيرة في أنظمة التوصية، تخضع أدوات التقييم والمعايير لتغييرات كبيرة. قد لا تكون المقاييس التقليدية كافية لالتقاط أداء أنظمة التوصية المدعومة بنماذج اللغة الكبيرة، التي تقدم قدرات جديدة وتولد توصيات بطريقة مختلفة وتتطلب تطوير أدوات تقييم جديدة.

أحد الجوانب الحاسمة في التقييم هو أخذ تفضيلات المستخدمين في الأنظمة المدعومة بنماذج اللغة الكبيرة في الاعتبار، مما يتطلب نهجًا يركز على المستخدم. تصبح مقاييس مثل رضا المستخدم، والانخراط، والتجربة العامة اعتبارات أساسية. على سبيل المثال، يقترح عمل ليو [162] مهمة جمع بيانات من الجمهور لتقييم جودة الشروحات والملخصات التي تم إنشاؤها، مما يوفر وسيلة لتقييم فعالية المحتوى الناتج. بالإضافة إلى ذلك، يمكن أن تكون استبيانات رضا المستخدمين واستبيانات التعليقات خيارات قيمة.

وجهة نظر أخرى يجب أخذها في الاعتبار هي صحة النظام، والتي تتضمن تقييم الجدة وتقييم عوامل مثل التنوع، والجدة، والصدفة، ومعدلات احتفاظ المستخدمين. تساعد هذه المقاييس في تقييم حداثة التوصيات وآثار نماذج اللغة الكبيرة على المدى الطويل. علاوة على ذلك، من الضروري تقييم قابلية تفسير التوصيات وإنصافها. يركز تقييم قابلية التفسير على قياس الوضوح، والفهم، والشفافية في التوصيات. في الوقت نفسه، يهدف تقييم الإنصاف إلى معالجة التحيزات المحتملة في النتائج المخصصة. من خلال إعطاء الأولوية للإنصاف، نسعى إلى خلق تجارب مخصصة تكون عادلة وشاملة لجميع المستخدمين. كلا هذين التقييمين ضروريان لتعزيز تجربة المستخدم العامة وبناء الثقة في التوصيات المخصصة التي يقدمها النظام.

عندما يتم استخدام نماذج اللغة الكبيرة للتخصيص، ستتضخم بعض عيوبها. قد يأتي السعي نحو نظام أكثر صدقًا وأقل ضررًا على حساب أداء النظام.

أولاً وقبل كل شيء، يجب ضمان دقة وموضوعية النظام. على الرغم من أن نماذج اللغة الكبيرة يمكن أن تولد محتوى يبدو معقولاً، إلا أن هناك خطرًا في نشر معلومات مضللة أو غير دقيقة. يصبح هذا الأمر أكثر أهمية عند دمج ملاحظات المستخدمين، حيث قد يحاكي النموذج سلوكيات المستخدمين في محاولة للظهور بمظهر الصدق. ومع ذلك، يمكن أن تؤدي هذه المحاكاة إلى توجيه متحيز للمستخدمين، مما لا يقدم أي فوائد حقيقية.

ثانيًا، من حيث عدم الضرر، تثار المخاوف بشأن الخصوصية والتمييز والأخلاقيات. بينما تمتلك نماذج اللغة الكبيرة القدرة على تقديم توصيات مخصصة للغاية من خلال الاستفادة من بيانات المستخدم، تصبح الخصوصية وأمان البيانات في غاية الأهمية. على عكس مجموعات البيانات المفتوحة، يجب أن تكون خصوصية البيانات الفردية المستخدمة في التدريب صارمة.
محمي، مع أذونات مستخدم صارمة لمشاركة معلوماتهم الشخصية. بالنسبة للتمييز، قد تعكس نماذج اللغة الكبيرة بشكل لا مفر منه التحيزات الموجودة في بيانات التدريب، مما يؤدي إلى توصيات تمييزية. بالنظر إلى توزيع المستخدمين والعناصر المتحيز، والذي يكون أكثر أهمية في أنظمة التوصية ذات تأثير الذيل الطويل، حيث يمكن أن يؤدي توزيع المستخدمين والعناصر المتحيز إلى قرارات تفضل الخيارات الأكثر شيوعًا، مما يؤدي إلى التمييز ضد بعض المستخدمين. تتعلق القلق النهائي بالاعتبارات الأخلاقية. يمكن أن توجه الرسائل الضارة، إذا تم النقر عليها من قبل المستخدمين بشكل غير واعٍ، نماذج اللغة الكبيرة نحو إنتاج محتوى ضار مشابه. ومع ذلك، عند المساعدة في اتخاذ القرارات الشخصية، من الضروري أن تمتلك نماذج اللغة الكبيرة القدرة على تقليل التعرض للرسائل الضارة وتوجيه المستخدمين بطريقة مسؤولة. قد تقدم أساليب مثل بناء ذكاء اصطناعي دستوري، حيث يتم اعتماد النقد والمراجعات والتعلم تحت الإشراف لتحسين نماذج التدريب، رؤى قيمة.

من خلال معالجة هذه المخاوف، وحماية الخصوصية، والتقليل من التمييز، والالتزام بالإرشادات الأخلاقية، يمكن أن تستفيد أنظمة التوصية من قوة نماذج اللغة الكبيرة مع ضمان ثقة المستخدمين، والعدالة، والتوصيات المسؤولة.

في الختام، يمثل ظهور نماذج اللغة الكبيرة اختراقًا كبيرًا في مجال الذكاء الاصطناعي. لقد فتحت قدراتها المحسنة في الفهم، وتحليل اللغة، والتفكير السليم آفاقًا جديدة للتخصيص. في هذه الورقة، نقدم عدة وجهات نظر حول متى تتكيف نماذج اللغة الكبيرة مع أنظمة التخصيص. لقد لاحظنا تقدمًا من استخدام القدرات الأساسية لنماذج اللغة الكبيرة لتعزيز الأداء، إلى الاستفادة من إمكانياتها في التفاعلات المعقدة مع الأدوات الخارجية للمهام الشاملة. يعد هذا التطور بثورة في طريقة تقديم الخدمات المخصصة. كما نعترف بالتحديات المفتوحة التي تأتي مع دمج نماذج اللغة الكبيرة في أنظمة التخصيص.

مساهمات المؤلفين نظم جين تشين الكتابة الرئيسية وكتب النص الرئيسي للمخطوطة. نظم زينغ ليو الهيكل الكامل للمخطوطة وكتب مقدمة نماذج اللغة الكبيرة. كتب شيو هوانغ القسم 8: نماذج اللغة الكبيرة كوكيل محادثة. كتب تشينغوانغ وو القسم 6: نماذج اللغة الكبيرة كمفسر. كتب تشي ليو وغانغوي جيانغ القسم 5: نماذج اللغة الكبيرة كمفسر محتوى. كتب يوانهاو بو ويوشوان لي وشياولونغ تشين القسم 9: تعلم الأدوات وتطبيقاته في التوصية. كتبت شينغمي وانغ القسم 7.2 التفكير للاختيار الآلي. قام كاي تشنغ وديفو ليان وإنهونغ تشين بمراجعة المقالة مرارًا وتكرارًا. راجع جميع المؤلفين المخطوطة.

تم توفير تمويل الوصول المفتوح من قبل جامعة هونغ كونغ للعلوم والتكنولوجيا. تم دعم هذا العمل من قبل المؤسسة الوطنية للعلوم الطبيعية في الصين (NSFC) رقم 62022077.

توفر البيانات لم يتم إنشاء أو تحليل أي مجموعات بيانات خلال الدراسة الحالية.

تناقض المصالح يعلن المؤلفون عدم وجود تناقضات في المصالح.
الموافقة الأخلاقية لا تتضمن هذه البحث مشاركين بشريين أو تشكل خطرًا محتملاً على الأفراد. وبالتالي، لم تكن الموافقة الأخلاقية الرسمية مطلوبة. ومع ذلك، نود أن نؤكد التزامنا بممارسات البحث الأخلاقية ونؤكد أن الدراسة تتماشى مع الإرشادات والمبادئ الأخلاقية المنصوص عليها في مدونة الأخلاقيات التابعة لجمعية الحاسبات الآلية.

الوصول المفتوح هذه المقالة مرخصة بموجب رخصة المشاع الإبداعي النسب 4.0 الدولية، التي تسمح بالاستخدام والمشاركة والتكيف والتوزيع وإعادة الإنتاج بأي وسيلة أو صيغة، طالما أنك تعطي الائتمان المناسب للمؤلفين الأصليين والمصدر، وتوفر رابطًا لرخصة المشاع الإبداعي، وتوضح إذا ما تم إجراء تغييرات. الصور أو المواد الأخرى من طرف ثالث في هذه المقالة مشمولة في رخصة المشاع الإبداعي الخاصة بالمقالة، ما لم يُشار إلى خلاف ذلك في سطر الائتمان للمواد. إذا لم تكن المادة مشمولة في رخصة المشاع الإبداعي الخاصة بالمقالة وكان استخدامك المقصود غير مسموح به بموجب اللوائح القانونية أو يتجاوز الاستخدام المسموح به، فسيتعين عليك الحصول على إذن مباشرة من صاحب حقوق الطبع والنشر. لعرض نسخة من هذه الرخصة، قم بزيارةhttp://creativecommons.org/licenses/by/4.0/.

Publisher’s Note Springer Nature remains neutral with regard to jurisdictional claims in published maps and institutional affiliations.

جين تشين
جين تشين@ust.hk
تشنغ ليو
zhengliu1026@gmail.com
شو هوانغ
xuhuangcs@mail.ustc.edu.cn
تشينوانغ وو
wcw1996@mail.ustc.edu.cn
تشي ليو
qiliu67@mail.ustc.edu.cn
جانغوي جيانغ
gwjiang@mail.ustc.edu.cn
يوانهاو بو
puyuanhao@mail.ustc.edu.cn
يوشوان لي
lyx180812@mail.ustc.edu.cn
شياولونغ تشين
chenxiaolong@mail.ustc.edu.cn
شينغمي وانغ
xingmeiwang@mail.ustc.edu.cn
كاي زينغ
zhengkai@uestc.edu.cn
ديفو ليان
liandefu@ustc.edu.cn
إنهونغ تشين
cheneh@ustc.edu.cn
1 جامعة هونغ كونغ للعلوم والتكنولوجيا، هونغ كونغ، الصين
أكاديمية بكين للذكاء الاصطناعي، بكين، الصين
3 جامعة العلوم والتكنولوجيا في الصين، هيفي، الصين
4 جامعة علوم وتكنولوجيا الإلكترونيات في الصين، تشنغدو، الصين

Received: 22 November 2023 / Revised: 15 March 2024 / Accepted: 14 May 2024 /
Published online: 28 June 2024
© The Author(s) 2024

Keywords Large language models Personalization systems Recommender systems Tool-learning AIGC

The emergence of large language models [1], which have demonstrated remarkable progress in understanding human expression, is profoundly impacting the AI community. These models, equipped with vast amounts of data and large-scale neural networks, exhibit impressive capabilities in comprehending human language and generating text that closely resembles our own. Among these abilities are reasoning [2], few-shot learning [3], and the incorporation of extensive world knowledge within pre-trained models [1]. This marks a significant breakthrough in the field of artificial intelligence, leading to a revolution in our interactions with machines. Consequently, large language models have become indispensable across various applications, ranging from natural language processing and machine translation to creative content generation and chatbot development. The introduction of ChatGPT, in particular, has gained significant attention from the human community, prompting reflections on the transformative power of large language models and their potential to push the boundaries of what artificial intelligence (AI) can achieve. This disruptive technology holds the promise of transforming how we interact with and leverage AI in countless domains, opening up new possibilities and opportunities for innovation. As these language models continue to advance and evolve, they are likely to shape the future of artificial intelligence, empowering us to explore uncharted territories and unlock even greater potential in human-machine collaboration.

Personalization, the art of tailoring experiences to individual preferences, stands as an essential and dynamic connection that bridges the gap between humans and machines. In today’s technologically driven world, personalization plays a pivotal role in enhancing user interactions and engagements with a diverse array of digital platforms and services. By adapting to individual preferences, personalization systems empower machines to cater to each user’s unique needs, leading to more efficient and enjoyable interactions. Moreover, personalization goes beyond mere content recommendations; it encompasses various facets of user experiences, encompassing user interfaces, communication styles, and more. As artificial intelligence continues to advance, personalization becomes increasingly sophisticated in handling large volumes of interactions and diverse user intents. This calls for the development of more advanced techniques to tackle complex scenarios and provide even more enjoyable and satisfying experiences. The pursuit of improved personalization is driven by the desire to better understand users and cater to their ever-evolving needs. As technology evolves, personalization systems will likely continue to evolve, ultimately creating a future where human-machine interactions are seamlessly integrated into every aspect of our lives, offering personalized and tailored experiences that enrich daily routines.

Large language models, with their deep and broad capabilities, have the potential to revolutionize personalization systems, transforming the way humans interact and expanding the scope of personalization. The interaction between humans and machines can no longer be simply classified as active and passive, just like traditional search engines and recommendation systems. However, these large language models go beyond simple information filtering and they offer a diverse array of additional functionalities. Specifically, user intent will be actively and comprehensively explored, allowing for more direct and seamless communication between users and systems through natural language. Unlike traditional technologies that rely on abstract and less interpretable ID-based information representation, large language models enable a more profound understanding of users’ accurate demands and interests. This deeper comprehension paves the way for higher-quality personalized services, meeting users’ needs and preferences in a more refined and effective manner. Moreover, the integration of
various tools is greatly enhanced by the capabilities of large language models, significantly broadening the possibilities and scenarios for personalized systems. By transforming user requirements into plans, including understanding, generating, and executing them, users can access a diverse range of information and services. Importantly, users remain unaware of the intricate and complex transformations happening behind the scenes, as they experience a seamless end-to-end model. The potential of large language models in personal is largely unexplored.

This paper addresses the challenges in personalization and explores the potential solutions using large language models. In the existing related work, LaMP [4] introduces a novel benchmark for training and evaluating language models in producing personalized outputs for information retrieval systems. On the other hand, other related surveys [5-7] focus mainly on traditional personalization techniques, such as recommender systems. From the perspective of learning mechanisms, LLM4Rec [5] delves into both Discriminative LLM for Recommendation and Generative LLM for Recommendation. Regarding the adaptation of LLM for recommender systems in terms of ‘Where’ and ‘How’, Li et al [6] concentrate on the overall pipeline in industrial recommender phases. Fan et al [7], on the other hand, conduct a review with a focus on pre-training, fine-tuning, and prompting approaches. While these works discuss pre-trained language models like Bert for ease of analysis, they dedicate limited attention to the emergent capabilities of large language models. This paper aims to fill this gap by examining the unique and powerful abilities of large language models in personalization, and further expand the scope of personalization with tools.

The remaining of this survey is organized as follows: we review the personalization and large language models in Section 2 to overview the development and challenges. Then we carefully discuss the potential actors of large language models for personalization from Section 3, following the simple utilization of emergent capabilities and the complex integration with other tools. We also discuss the potential challenges when large language models are adapted for personalization. The whole architecture of this paper is shown in Figure 1.

Personalization, a nuanced art that tailors experience to the unique preferences and needs of individual users, has become a cornerstone of modern artificial intelligence. In this section, we explore the captivating world of personalized techniques and their profound impact on user interactions with AI systems. We will delve into two key aspects of personalization: recommender systems and personalized assistance. These techniques not only enhance user satisfaction but also exemplify the evolution of AI, where machines seamlessly integrate with our lives, understanding us on a profound level. By tailoring recommendations, providing customized assistance, and delivering personalized search results, AI systems have the potential to create a truly immersive and individualized user experience.

Recommender systems play a pivotal role in personalization, revolutionizing the way users discover and engage with content. These systems aim to predict and suggest items of interest to individual users, such as movies, products, or articles, based on their historical interactions and preferences.

Regarding the development of recommender systems, they have evolved significantly over the years, with collaborative filtering [8,9] being one of the earliest and most influential approaches. Collaborative filtering relies on user-item interaction data to identify patterns and make recommendations based on users with similar preferences. Traditional solutions, such as matrix factorization [10] and user/item-based approaches [11], extract potentially interesting items based on the idea that users who have shown similar preferences in the past are likely to have similar preferences in the future. While effective, collaborative filtering has limitations, such as the “cold start” problem for new users and items. To address these limitations, contentbased filtering [12] emerged, which considers the content of items to make recommendations. It leverages the features and attributes of items to find similarities and make personalized suggestions. These features can be grouped into user-side information, such as user profiles, item-side information [13, 14], such as item brands and item categories, and interactionbased information [15], such as reviews and comments. However, content-based filtering may struggle to capture complex user preferences and discover diverse recommendations restricted by the limited feature representations.

In recent years, deep learning has gained significant attention in the field of recommender systems due to its ability to model complex patterns and interactions in user-item data [16]. Deep learning-based methods have shown promising results in capturing sequential, temporal, and contextual information, as well as extracting meaningful representations from large-scale data. With the introduction of deep networks, high-order interactions between features of users and items are well captured to extract user interest. Deep learning-based methods offer approaches to capture high-order interactions by employing techniques like attention mechanisms [17, 18] and graph-based networks [19] to mine complex relationships between user and item. These methods have been shown to enhance recommendation performance by considering higher-order dependencies and inter-item relationships. Another area of deep learning-based recommender systems is sequential recommenders, specifically designed to handle sequential user-item interactions, such as user behavior sequences over time. Self-Attentions [20] and Gated Recurrent Units (GRUs) [21] are popular choices for
modeling sequential data in recommender systems. These models excel in capturing temporal dependencies and context, making them well-suited for tasks like next-item recommendation and session-based recommendation. Sequential-based models can take into account the order in which items are interacted with and learn patterns of user behavior that evolve. Furthermore, the rise of language models like BERT has further advanced recommender systems by enabling a better understanding of both natural language features and user sequential behaviors [22]. These language models can capture deep semantic representations and world knowledge, enriching the recommendation process and facilitating more personalized and context-aware recommendations. Overall, the application of deep learning techniques in recommender systems has opened new avenues for research and innovation, promising to revolutionize the field of personalized recommendations and enhance user experiences.

Personalization Assistance refers to the use of artificial intelligence and machine learning techniques to tailor and customize experiences, products, or content based on individual preferences, behavior, and characteristics of users [23]. By analyzing individual preferences, behaviors, and characteristics, it creates a personalized ecosystem that enhances user engagement and satisfaction. In contrast to traditional recommender systems, which rely on predicting user interests passively, personalized assistance takes a more proactive approach. It ventures into the realm of predicting users’ next intentions or actions by utilizing contextual information, such as historical instructions and speech signals. This deeper level of understanding enables the system to cater to users’ needs in a more anticipatory and intuitive manner. At the core of this capability lies the incorporation of cutting-edge technologies like natural language processing (NLP) and computer vision. These advanced tools empower the system to recognize and interpret user intentions, whether conveyed through spoken or written language, or even visual cues. Moreover, the potential of personalized assistance extends beyond static recommendations to dynamic and context-aware interactions. As the system becomes more and more familiar with a user’s preferences and patterns, it adapts and refines its recommendations in real-time, keeping pace with the ever-changing needs and preferences of the user.

Conversational Recommender Systems [24, 25] mark a remarkable stride forward in the realm of personalized assistance. By engaging users in interactive conversations, these systems delve deeper into their preferences and fine-tune their recommendations accordingly. Leveraging the power of natural language understanding, these conversational recommenders adeptly interpret user queries and responses, culminating in a seamless and engaging user experience. Notable instances of personalized assistance products, such as Siri and Microsoft Cortana , have already proven their effectiveness on mobile devices. Additionally, the integration of large language models like ChatGPT further elevates the capabilities of conversational recommenders, promising even more enhanced user experiences. As this technology continues to progress, we can anticipate its growing significance across diverse industries, including healthcare, education, finance, etc. While the growth of conversational recommenders and personalized assistance promises immense benefits, it is imperative to develop these products responsibly. Upholding user privacy and ensuring transparent data handling practices are essential to maintain user trust and safeguard sensitive information.

Language models perform the probabilistic modeling for the generation of natural language [26,27], i.e., presented with one specific context, the language models make predictions for the words which are to be generated for the future steps. Nowadays, language models are mostly built upon deep neural networks, where two features need to be emphasized. First of all, the majority of language models are based on transformers or their close variations [28, 29]. Such types of neural networks are proficient at modeling context dependency within natural languages and exhibit superior and consistently improved performances when being scaled up. Secondly, the language models are pre-trained at scale with a massive amount of unlabeled corpus [3, 30-32]. The pre-trained models are further fine-tuned with task-oriented data to adapt to different downstream applications.

There has been tremendous progress in language models in recent years, where the emergence of large language models, represented by GPT-3 [3], marks an important milestone for the entire AI community. The large language models (LLMs), as the name suggests, are massively scaled-up derivatives of conventional language models. Particularly, the backbone networks and the training data have been largely magnified. For one thing, although there are no specific criteria for the minimum number, a typical LLM usually consists of no less than several billion and up to trillions of model parameters, which are orders larger than before [33]. For another thing, the pre-training is conducted based on much more unsupervised corpora, with hundreds of billions or trillions of tokens carefully filtered from sources like Common Crawl, GitHub, Wikipedia, Books, ArXiv, etc [1]. The impact of scaling is illustrated by the scaling laws [34, 35], which numerically uncover the power-law relationship between model size, data volume, training scale and the growth of the model’s performance.

The scaling up of network and training data lead to the leap-forward of large language models’ capability. They not only become more proficient at conventional skills, like understanding people’s intent and synthesising human-like languages, but also process capabilities which are rarely exhibited by those smaller models. Such a phenomenon is referred as the emergent abilities of LLMs, where three representatives capabilities are frequently discussed. One is the in-context learning capability [3], where LLMs may quickly learn from the fewshot examples provided in the prompt. Another one is the instruct following capability [36, 37]. After fine-tuned with diversified tasks in the form of instruction tuning, the LLMs are made proficient to follow the human’s instructions. Thus, they may handle different tasks presented in an ad-hoc manner. Last but not least, LLMs are found to be able to conduct step-by-step reasoning [38, 39]. With certain types of prompting strategies, like Chain-ofThought (CoT), LLMs may iteratively approach the final answer of some complex tasks, like mathematical word problems, by breaking down the tasks into sub-problems and figuring out the plausible intermediate answers for each of the sub-problems.

Thanks to the superior capabilities of understanding, reasoning, and generating, large language models, especially the chat models produced by instruction tuning, are presented as foundamental building blocks for many personalization services. One direct scenario is the conversational search and recommendation [40]. Once built upon large language models, the search and recommendation systems will be able to engage with users via interactions, present outputs in a verbalized and explainable way, receive feedback from the user and make adjustments on top of the feedback, etc. The above changes will bring about a paradigm shift for personalization services, from passively making search and recommendation, to proactively figuring out user’s need and seeking for user’s preferred items. In broader scopes, the LLMs may go beyond simply making personalized search and recommendation, but play as personalized assistants to help users with their task completions. The LLMs may take
notes of users’ important information within their memory, make personalized plans based on memorized information when new demands are raised, and execute plans by leveraging tools like search engines and recommendation systems.

Yet, we have to confront the reality that applying LLMs for personalization is not a trivial problem. To name a quite few of the open challenges. Firstly, personalization calls for the understanding of user preference, which is more domain-specific knowledge rather than the common-sense knowledge learned by LLMs. The effective and efficient adaptation of LLMs for personalized services remains to be resolved. Besides, the LLMs could memorize user’s confidential information while providing personalized services. Thus, it raises concerns for privacy protection. The LLMs are learned from Internet data; due to the exposure bias, it is almost inevitable to make unfair predictions for minorities. To address the above challenges, benchmarks and evaluation datasets are needed by the research communities. However, such resources are far from complete at present. To fully support personalization with LLMs, methodological and experimental frameworks need to be systematically established for all these perspectives.

In the following sections, we delve into the potential of large language models for personalization, examining their evolution from simple use cases, like utilizing word knowledge as features, to more intricate integration with other tool modules to act as agents. Specifically, we focus on the progression of emergent capabilities, starting from basic world knowledge and understanding user intent, and advancing to high-level reasoning abilities. We explore how large language models can contribute to constructing a knowledge base that enriches common-sense knowledge about various items. Additionally, we discuss how the understanding capability of large language models can empower content interpreters and explainers for in-depth analysis of interactions. Furthermore, we observe attempts to leverage the reasoning ability of large language models for system reasoners to provide recommendation results. These increasingly sophisticated capabilities enable complex utilization of large language models with other tool modules, enabling them to better comprehend user intentions and fulfill user instructions. Consequently, we also explore the integration of large language models with other tools for personalization, including tool learning, conversational agents and personalized content creators. The overview of this chapter is depicted in Figure 2. Our comprehensive survey aims to provide a deeper understanding of the current landscape, shedding light on the opportunities and challenges associated with incorporating large language models into personalization.

The knowledge base provides rich information with semantics, attracting increasing attention for the usage of the knowledge base in the recommender systems. Particularly, the knowledge graphs, where nodes represent entities and edges represent relations in the heterogeneous information graph, are the common format of knowledge bases and are introduced as side information to enhance the performance of recommenders. Knowledge graphs help understand the mutual relations between users and items and also provide better explainability for recommenders. Existing methods that incorporate knowledge graphs in recommender systems can be classified into three main groups: embedding-based methods, path-based methods and unified methods. Embedding-based methods, such as CKE [14] and DKN [41], KSR [42], SHINE [43], utilize semantic representations of users and items. These methods aim to capture the underlying semantic relationships between entities in the knowledge graph, which can improve the quality of recommendations. Path-based approaches, such as Hete-MF [44], SemRec [45], RuleRec [46], EIUM [47], exploit the semantic connectivity information present in the knowledge graph to regularize the user and item representations. These methods consider the paths between users and items in the graph and leverage them to incorporate interpretability into the recommendation process. Unified methods, such as RippleNet [48], KGCN [49], KGAT [50], AKUPM [51], IntentGC [52] refine the representations of entities in the knowledge graph by leveraging embedding propagation techniques. These methods propagate the embeddings of entities through the graph structure, allowing information to flow across connected entities and refining the representations accordingly.

However, the knowledge graphs adopted in recommender systems are limited and with low usability. Reviewing the various knowledge graph datasets for recommender systems, covering the domains of movies, books, news, products, etc., these datasets are still significantly sparse compared to the vast amount of human knowledge, particularly the lack of facts, due to the expensive supervision to construct the knowledge graph. Building a comprehensive and accurate knowledge graph would be a complex and resource-intensive task, which would include data collection, integration, and cleaning to assure data quality and consistency. Limited by the expensive cost of labelling the knowledge graphs, there would usually exist missing entities or relations. The user preferences for these entities or paths may be ignored, and the recommendation performance suffers.

The ability of Large Language Models to retrieve factual knowledge as explicit knowledge bases [53-56, 56-61] has been stirred discussed, which presents an opportunity to construct more comprehensive knowledge graphs within recommender systems. Tracing back to the work [53], large language models have shown their impressive power in storing factual information, such as entities and common sense, and then commonsense knowledge can be reliably transferred to downtown tasks. Existing methods in knowledge graphs fall short of handling incomplete KGs [62] and constructing KGs with text corpus [63] and many researchers attempt to leverage the power of LLM to solve the two tasks, i.e., the knowledge completion [64] and knowledge construction [65]. For knowledge graph completion, which refers to the task of missing facts in the given knowledge graph, recent efforts have been made to encode text or generate facts for knowledge graphs. MTL-KGC [66] encoders the text sequences to predict the possibility of the tuples. MEMKGC [67] predicts the masked entities of the triple. StAR [68] utilizes Siamese textual encoders to separately encode the entities. GenKGC [69] uses the decoder-only language models to directly generate the tail entity. TagReal [70] generates high-quality prompts from the external text corpora. AutoKG [63] directly adopts the LLMs, such as ChatGPT and GPT-4, and designs tailored
prompts to predict the tail entity. As for the another important task, i.e., knowledge graph construction, which refers to creating a structured representation of knowledge, LLMs can be applied in the process of constructing knowledge graphs, including entity discovery [71, 72], coreference resolution [73, 74] and relation extraction [75, 76]. LLMs can also achieve the end-to-end construction [ ] to directly build KGs from raw text. LLMs enable the knowledge distillation to construct knowledge graphs. symbolic-kg [79] distills commonsense facts from GPT3 and then finetunes the small student model to generate knowledge graphs. These models have demonstrated the capacity to store large volumes of knowledge, providing a viable option for improving the scope and depth of knowledge graphs. Furthermore, these advancements have prompted research into the direct transfer of stored knowledge from LLMs to knowledge graphs, eliminating the need for human supervision. This interesting research throws light on the possibilities of automating knowledge graph completion utilizing cutting-edge big language models.

By leveraging the capabilities of LLMs, recommender systems would benefit from a more extensive and up-to-date knowledge base. Firstly, missing faculty information can be completed to construct more extensive knowledge graphs and thus the relations between entities can be extracted for better recommenders. Secondly, in contrast to the preceding exclusively in-domain data, the large language model itself contains plenty of cross-domain information that can help achieve cross-domain recommendations, such as recommending appropriate movies based on the user’s favourite music songs. To sum up, the stored knowledge can be utilized to enhance recommendation accuracy, relevance, and personalization, ultimately improving the overall performance of recommender systems. Existing work [80] prompts large language models to generate factual knowledge about movies to enhance the performance of CTR prediction models. To better utilize the factual knowledge, a Knowledge Adaptation module is adopted for better contextual information extraction. LLMRec [81] adopts LLM-based graph augmentation strategies to enrich the information of items and further designs denoise methods to ensure the augmentation. LLM-KRec [82] adopts the large language models to determine complementary relationships in each entity pair and construct a complementary knowledge graph, which enhances the industrial recommenders. The existing work leveraging the capabilities of knowledge base in personalization is summerized in Table 1.

It is worth noting that the phantom problem of large language models can be a challenge when applied to recommendation tasks. The inherent nature of large language models can introduce ambiguity or inaccurate provenance [83]. This issue can emerge as the introduction of extraneous information or even noise into the recommendation process. The large language models may generate responses that, while syntactically correct, lack informative context or relevance. According to the KoLA [84], a benchmark for evaluating word knowledge of LLMs, even the top-ranked GPT4 just achieves 0.012 in Precision and 0.013 in Recall on the task Named Entity Recognition, which falls far short of the performance ( 0.712 in Precision and 0.706 in Recall) of the task-specific models PL-Marker [85]. Such a finding suggests that common sense is still far from being sufficiently captured by LLM.

Content-based recommenders provide an effective solution for mitigating the sparse feedback issue in recommender systems. By leveraging the attributes and characteristics of items, these systems achieve a more profound understanding of their properties, facilitating accurate

matching with user preferences. However, the content features used in content-based recommendation may also exhibit sparsity. Relying solely on the recommended supervision signal, such as clicking and browsing, might not fully exploit the potential benefits of these features. To overcome this challenge, language models emerge as powerful fundamental algorithms that act as content interpreters in processing textual features. Their utilization enhances the effectiveness of recommender systems by effectively understanding and interpreting textual content, leading to improved recommendations.

Conventional content interpreter includes statistical model, neural networks, and advanced NLP networks, as summarized in Figure 3. These approaches primarily focus on transforming content information, such as textual data, into feature embeddings to facilitate the recommendation process.

Statistical models like TF-IDF, Minimum Description Length (MDL) [86], and bag-ofwords have been traditionally used to encode textual data such as news articles and documents into continuous value vectors. However, with the advancement of deep learning techniques, researchers have explored various neural network architectures to learn more expressive content representations. Instead of relying solely on statistical embeddings, some approaches initialize the vectors with bag-of-words representations and then employ autoencoder-based models to learn more powerful representations. For example, CDL [16] combines the latent vectors obtained from autoencoders with the original ID embeddings to enhance content representations. CRAE [87] introduces a collaborative recurrent autoencoder that captures the word order in texts, enabling the modeling of content sequences in collaborative filtering scenarios. Dong et al. [88] propose a stacked denoising autoencoder that reconstructs item/user ratings and textual information simultaneously, allowing for the joint modeling of collaborative and textual knowledge. CVAE [89] introduces a collaborative variational autoencoder that learns probabilistic textual features. While autoencoders are effective in learning lowdimensional representations from text data, they may struggle to capture semantic information effectively [90]. In some cases, approaches like doc2vec [91] are used to construct content embeddings [92, 93] and learn hidden representations. Okura et al. [94] evaluate different network architectures, including word-models and GRU networks, for representing user states.

Following the advancements in neural natural language processing (NLP) models, more sophisticated architectures such as Convolutional Neural Networks (CNNs), Recurrent Neural Networks (RNNs), and Neural Attention models have been employed as content interpreters to extract contextual information and capture user preferences. These models take sentence inputs, such as news titles, reviews, or comments, and transform them into word embedding matrices using random initialization or word2vec embeddings [95]. Various architectures, including CNNs, attention networks, and hybrid models, are utilized to learn representations of sentences. For example, NPA [96] and LSTUR [97] incorporate attention mechanisms to determine the importance of words after CNN layers. NRMS [98] and CPRS [99] utilize multi-head self-attention networks to learn word representations. These models are effective in capturing long-context dependencies and understanding the semantic information in the text. In addition to text modeling, language models are also used as content interpreters to capture user interests based on their historical interactions. For instance, WE3CN [100] employs a 3D CNN to extract temporal features from the historical data. DKN [41] utilizes an attention mechanism to aggregate historical information related to candidate items. DAN [101] proposes an attention-based LSTM to capture richer hidden sequence features. These models leverage different neural architectures to enhance the representation of text in the context of recommendation systems. It is worth noting that these models still have limitations in terms of depth and the ability to effectively generalize semantic information.

In recent years, there has been a growing interest in incorporating more powerful pre-trained language models, such as BERT and GPT, into recommendation systems. These language models have shown exceptional performance in various natural language processing tasks and have sparked researchers’ inspiration to leverage them for capturing deep semantic representations and incorporating world knowledge in recommendation systems. However, applying pre-trained language models to recommendation tasks presents two main challenges. Firstly, there is a misalignment of goals between general-purpose language models and the specific objectives of recommendation systems. To address this, researchers have proposed approaches that fine-tune the pre-trained models or design task-specific pre-training tasks to adapt them to recommendation tasks. For example, U-BERT [102] employs BERT as a content interpreter and introduces masked opinion token prediction and opinion rating prediction as pre-training tasks to better align BERT with recommendation objectives. Similarly, other works [103-107] have utilized pre-trained BERT to initialize the news encoder for news recommendation, enhancing the representation of textual features. The pre-trained model, ERNIE, is also utilized to enhance the representation ability of queries and documents [108, 109]. The second challenge is reducing the online inference latency caused by pre-trained language models, which can be computationally expensive. Researchers have explored techniques such as knowledge distillation and model optimization to obtain lightweight and efficient models suitable for online services. For instance, CTR-BERT [110] employs knowledge distillation to obtain a cache-friendly model for click-through rate prediction, addressing the latency issue.

Moreover, pre-trained language models have been applied beyond mainstream recommendation tasks. They have been integrated into various recommendation scenarios, including tag recommendation [111], tweet representations [112], and code example recommendation [113], to enhance the representation of textual features in those specific domains.

Additionally, some recent works [114-117] have explored using only textual features as inputs to recommendation models, leveraging pre-trained language models to alleviate coldstart problems and enable cross-domain recommendations. This paradigm offers advantages in alleviating cold-start problems and facilitating cross-domain recommendations based on the universality of natural language. ZESREC [114] uses BERT to obtain universal continuous representations of item descriptions for zero-shot recommendation. Unisrec [115] focuses on cross-domain sequential recommendation and employs a lightweight MoE-enhanced module to incorporate the fixed BERT representation into the recommendation task. VQ-Rec [116] further aligns the textual embeddings produced by pre-trained language models to the recommendation task with the help of vector quantization. Fu et al. [118] explore layerwise adaptor tuning to achieve parameter-efficient transferable recommendations.

While the pre-trained language models empower the text understanding with the benefit of capturing world knowledge first, the development of pre-trained large language models provides great emergency ability in the fields of reasoning and generalization, as shown in Table 2. TALLRe [119] explores the ability of large language models for the sequential recommendation. They observe that original language models perform poorly in zero-shot and few-shot scenarios, while recommendation-specific instruction-tuned language models demonstrate superior performance in few-shot learning and cross-domain generalization. Li et al. [123] adopt the large language models as context encoders and attempt to examine the upper limits of the large language models. Similarly, Kang et al. [120] propose a similar instruction tuning method for rating prediction recommendation tasks based on the T5 backbone. They find that the tuned language models, which leverage data efficiency, outperform traditional recommenders. PALR [121] further enhances the construction pipeline of recommendation-specific instruction tuning, which first employs large language models to generate reasoning as additional features based on the user’s behavior history. Next, a small set of candidates is retrieved using any existing model based on the user profile. Finally, to adapt general-purpose language models to the recommendation task, they convert the generated reasoning features, user interaction history, and retrieved candidates into natural language instruction data and fine-tune a language model. Existing instruction tuning methods of language models for recommendation scenarios typically focus on a single type of recommendation task, limiting the full utilization of language models’ strong generalization ability. InstructRec [122] addresses this limitation by formulating recommendation as an instruction-following procedure. They design various instruction templates to accommodate different recommendation tasks and employ GPT-3.5 to generate high-quality instruction data based on the historical data of users and templates. The language models fine-tuned with this instruction data can effectively handle a wide range of recommendation tasks and cater to diverse information requirements from different users.

In addition to valuing the suggestions made by a recommendation model, users are also interested in the comprehensible justifications for these recommendations [124, 125]. This is crucial as most recommender systems are black boxes whose inner workings are inscrutable to human understanding [126], diminishing user trust. Taking drug recommendations, for instance, it is unacceptable to recommend drugs with good curative effects simply but fail to give reasons why they are effective. To this end, explainable recommendations aim to couple high-quality suggestions with accessible explanations. This not only helps to improve the

model’s transparency, persuasiveness, and reliability, but also facilitates the identification and rectification of potential errors through insightful explanations. These benefits have been extensively documented in recent work [38, 127-129]. For instance, [128] conducted a study that involved addressing 40 difficult tasks and evaluating the impact of explanations on zero-shot and few-shot scenarios. Their findings demonstrated that explanations have a positive effect on model performance by establishing a connection between examples and interpretation.

Traditional approaches mainly focus on template-based explanations, which can be broadly categorized into item-based, user-based, and attribute-based explanations [130]. Item-based explainable methods relate recommendations to familiar items [131], explaining that the recommended item bears similarity to others the user prefers, which are prevalent on platforms like Amazon [132] and Netflix [133]. However, due to its collaboration, it may underperform in personalized recommendations requiring diversity and can struggle to identify relevant items among industrial settings with vast items efficiently. In contrast, user-based explanations [134] leverage social relationships to make recommendations by explaining that users with similar interests also favor the recommended item. The user’s social property makes these explanations more persuasive, encouraging users to try the recommendations. However, the variance in user preferences may render this approach less impactful in gauging actual preference. Lastly, attribute-based explanations focus on highlighting the attributes of recommended items that users might find appealing, essentially conveying “these features might interest you”. This method demands customization according to each user’s interests, yielding higher accuracy and satisfaction. Thus, they are at the forefront of research [124, 135-138].

Obviously, such explanations typically employ pre-defined and formulaic formats, such as explanations based on similar items or friends. Although capable of conveying essential information, such inflexible formats may diminish the user experience and satisfaction by lacking adaptability and personalization [124]. For this reason, natural language generation approaches have received increasing attention. Early work [139-141] mainly relied on recurrent neural networks (e.g., LSTM [142], GRU [143]). Limited by the model’s expressiveness, they often suffer from the issue of insufficient diversity. With the excellent performance of Transformer-based models in various natural language tasks, some work attempts to integrate Transformer-based models into explainable recommendations. Li et al. [144] use the position vectors corresponding to the user (item) IDs to predict interpreted tokens. Subsequent work [145] has shown that the generated explanation cannot justify the user’s preference by synthesizing irrelevant descriptions. Therefore, Ni et al. [146] used such information as guided input to BERT to obtain a controllable justification. Considering that such auxiliary information is not always available in real-world scenarios, ExBERT [145] only requires historical explanations written by users, and utilizes a multi-head self-attention based encoder to capture the relevance between these explanations and user-item pairs. Recently, MMCT [147], EG4Rec [148], and KAER [149] have further carried out finer-grained modeling of information such as visual images, time series, and emotional tendencies to obtain high-quality interpretations. An early attempt, LLM4Vis [150], has been paid to the explainable visualization recommendation through ChatGPT. RecExplainer [151] proposes three alignment strategies for interpretability.

Due to the limited expressive power of traditional language models, natural language generation methods are prone to long-range dependence problems [145], that is, the input of long texts will appear to generate explanations that lack diversity and coherence in content. In addition, these explanation methods are tightly coupled with specific recommendation models (e.g., NETE [141]), or directly design a new recommendation model (e.g., NRT [139],

PETER [144]), and they are often powerless when faced with existing advanced recommendation models, which limits their generalizability. This is also a flaw in template-based methods. Notably, in industrial settings, recommendation algorithms frequently involve not just a single model but a cascade or integration of multiple models, and these elaborate combinations further exacerbate the difficulty of deciphering recommendations.

Thanks to LLMs’ remarkable generative ability in language tasks, they are ideal for tackling the aforementioned challenges [152]. Firstly, with the leverage of extensive training data, LLMs adeptly harness human language, encompassing context, metaphors, and complex syntax. This equips them to craft customized explanations that are precise, natural, and adaptable to various user preferences [141, 144, 153], mitigating the limitations of conventional, formulaic explanations. Secondly, the unique in-context learning capabilities of LLMs, such as zero-shot prompting, few-shot prompting, and chain-of-thought prompting, enable them to garner real-time user feedback during interactions, furnish recommendation outcomes, and their corresponding interpretations, fostering bidirectional human-machine alignment. Recent study [154] has demonstrated the potential of LLMs in elucidating the intricacies of complex models, as evidenced by GPT-4 autonomously interpreting the function of GPT-2’s each neuron by inputting appropriate prompts and the corresponding neuron activation. This showcases an innovative approach to interpreting deep learning-based recommendation models. It’s critical to highlight that this interpretation technique is agnostic to the model’s architecture, distinguishing it from traditional interpretations that are bound to specific algorithms. Thus, recommendation interpretations founded on LLMs pave the way for a versatile and scalable interpretational framework with broader applicability.

Although LLMs have inherently significant advantages in recommendation explanations, it is imperative to recognize potential issues. Firstly, akin to recommendation models, LLMs are essentially black boxes that are difficult for humans to understand. We cannot identify what concepts they give explanations based on [155]. Also, the explanation given may be insincere; that is, the explanations are inconsistent with their recommended behaviors. Some recent developments [38,156] involve utilizing chains of thought to prompt reasoning for improved interpretability; however, the opacity of the reasoning process of each step remains a concern, and [157] has questioned the possible unfaithful explanations of chain-of-thought prompting. Secondly, the extensive data utilized by LLMs may encompass human biases and erroneous content [158]. Consequently, even if the explanation aligns with the model’s recommendation behavior, both the explanation and recommendation could be flawed. Monitoring and calibrating these models to ensure fairness and accuracy in explainable recommendations is essential. Lastly, generative models exhibit varying levels of proficiency across different tasks, leading to inconsistencies in performance. Identical semantic cues could yield disparate recommendation explanations. This inconsistency has been substantiated by recent studies [159, 160] focusing on the LLMs’ robustness. Addressing these issues calls for exploring techniques to mitigate or even circumvent low-reliability explanatory behavior, and investigating how LLMs can be trained to consistently generate reliable recommendation explanations, especially under adversarial conditions, is a worthwhile avenue for further research.

With the development of large language models, there is an observation that LLMs exhibit reasoning abilities [ 2,161 ] when they are sufficiently large, which is fundamental for human
intelligence for decision-making and problem-solving. By providing the models with the ‘chain of thoughts’ [38], such as prompting with ‘let us think about it step by step’, the large language models exhibit emergent abilities for reasoning and can arrive at conclusions or judgments according to the evidence or logics. Accordingly, for recommender systems, large language models are capable of reasoning to help user interest mining, thus improving performance.

In-context learning [167-173] is one of the emergent abilities of LLMs that differentiate LLMs from previous pre-trained language models, where, given a natural language instruction and task demonstrations, LLMs would generate the output by completing the word sequence without training or tuning [3]. As for in-context learning, the prompt follows by the task instruction and/or the several input-output pairs to demonstrate the task and a test input is added to require the LLM to make predictions. The input-output pair is called a shot. This emergent ability enables prediction on new cases without tuning unlike previous machine learning.

In the realm of recommender systems, numerous studies have explored the performance of zero-shot/few-shot learning using large language models, covering the common recommendation tasks such as rating prediction, and ranking prediction. These studies evaluate the ability of language models to provide recommendations without explicit tuning, as summarized in Table 3, where all methods adopt in-context learning for direct recommenders. The general process can be attached in Figure 4. Accordingly, we have the following findings:

Another important emergent ability is the ‘step by step’ reasoning, where LLMs can solve complex tasks by utilizing prompts including previous intermediate reasoning steps, called the ‘chain of thoughts’ strategy [38]. Wang and Lim [164] design a three-step prompt, namely NIR, to capture user preferences, extract the most representative movies and rerank

the items after item filtering. Such a multi-step reasoning strategy significantly improves recommendation performance.

Automated Machine Learning (AutoML) is widely applied in recommender systems to eliminate the costly manual setup with trials and errors. The search space in recommender systems can be categorized in (1) Embedding size (2) Feature (3) Feature interaction (4) Model architecture. Embedding size search, such as [176-179] seeks for appropriate embedding size for each feature to avoid resources overconsumption. Searching for features consisting of raw feature search [180,181] and synthetic feature search [182,183], which selects a subset from the set of original or cross features to maintain informative features to reduce both computation and space cost. Feature interaction search, such as [184-188], automatically filters out feature interactions that are not helpful. Model architecture search, like [189-192], expands the search space to the integral architectures. The search strategy shifts from the discrete reinforcement learning process, which iteratively samples architectures for training and is time-consuming, into the differentiable searching, which adaptively selects architectures within one-shot learning to circumvent the computational burden, for more efficient convergence. The evaluation for each sampled architecture then acts as the signal to adjust the selections. That is, there is a decision maker who memorizes the prior results of previous architecture choices and analyzes the prior results to give the next recommended choice.

The emergent LLMs have excellent memorization and reasoning capabilities that would work for automated learning. Several works have attempted to validate the potential of automated machine learning with LLMs. Preliminarily, GPT-NAS [193] takes advantage of the generative capability of LLMs. The architecture of networks is formulated into sequential characters, and thus the generation of network architectures can be easily achieved through the generative pre-training models. NAS-Bench-101 [194] is utilized for pre-training and the state-of-the-art results are used for fine-tuning. The generative pre-training models produce reasonable architectures, which would reduce the search space for later genetic algorithms for searching optimal architectures. The relatively advanced reasoning ability is further evaluated in GENIUS [195], where GPT-4 is employed as a black-box agent to generate potential better-performing architectures according to previous trials including tried architectures with their evaluation performance. According to the results, GPT-4 can generate good architecture networks, showing the potential for more complicated tasks. Yet it is too difficult for LLMs to directly make decisions on challenging technical problems only by prompting. To balance
efficiency and interpretability, one approach is to integrate the LLMs into certain search strategies, where the genetic algorithm guides the search process and LLMs generate the candidate crossovers. LLMatic [196] and EvoPrompting [197] use code-LLMs as mutation and crossover operators for a genetic NAS algorithm. During the evolution process, each generation has a certain probability of deciding whether to perform crossover or mutation to produce new offspring. Crossover and mutation are generated by prompting LLMs. Such a solution integrates LLM into the genetic search algorithm, which would achieve better performances than direct reasoning over the whole space.

The research mentioned above brings valuable insights into the field of automated learning in recommender systems. However, several challenges need to be addressed. Firstly, the search space in recommender systems is considerably more complex, encompassing diverse types of search space and facing significant volume issues. This complexity poses a challenge in effectively exploring and optimizing the search space. Secondly, compared to the common architecture search in other domains, recommender systems lack a strong foundation of knowledge regarding the informative components within the search space, especially the effective high-order feature interactions. Unlike well-established network structures in other areas, recommender systems operate in various domains and scenarios, resulting in diverse and domain-specific components. Addressing these challenges and advancing the understanding of the search space and informative components in recommender systems will pave the way for significant improvements in automated learning approaches.

Conversational recommender system (CRS) is a specialized type of recommendation tool that aims to uncover users’ interests and preferences through dialogue, enabling personalized recommendations and real-time adjustment of recommendation strategies based on user feedback. Compared to traditional recommender systems, conversational recommender systems have the advantage of real-time understanding of user intents and the ability to adapt recommendations based on user feedback. Typically, a conversational recommender system consists of two main components: a dialogue module and a recommendation module.

In this section, we will primarily focus on discussing the dialogue module, which plays a crucial role in facilitating effective user-system interactions and understanding user preferences (Figure 5).

In a conversational recommender system, the dialogue module typically takes the form of a dialogue system. Dialogue systems can generally be classified into two main categories: chit-chat and task-oriented. The former focuses on open-domain question answering, and two major methods are commonly employed: generative and retrieval-based methods. Generative methods [198-200] utilize a sequence-to-sequence model structure to generate responses, while retrieval-based methods [201-203] transform the task of generating responses into a retrieval problem by searching for the most relevant response in a response database based on the dialogue context. In conversational recommender systems, task-oriented dialogue systems are more often required, as they are specifically designed to assist users in accomplishing specific tasks. For task-oriented dialogue systems, a common approach [24,204] is to treat the response generation as a pipeline and handle it separately using four components: dialogue understanding [205, 206], dialogue state tracking [207-209], dialogue policy learning [24, 210], and natural language generation [211,212]. Another approach is to employ an end-toend method [213-215], training an encoder-decoder model to handle all the processing steps

collectively. The first approach suffers from scalability issues and lacks synergy between the components, while the second approach requires a substantial amount of supervised data for training.

Based on the classification of dialogue systems, common approaches in conversational recommender systems can also be divided into two categories: attribute-based QA (questionanswering) and generative methods. The attribute-based QA approach [24, 216-218] utilizes a pipeline method within the dialogue system. In each dialogue turn, the system needs to decide whether to ask the user a question or provide a recommendation. The decision-making process, particularly regarding which attribute to ask about, is typically handled by a policy network. On the other hand, generative methods do not explicitly model the decision-making process. Instead, they often employ an end-to-end training approach, where a sequence-to-sequence model generates output directly from a shared vocabulary of words and items. Whether the generated output is chit-chat, a question, or a recommendation is implicitly determined during the generation process. Compared to attribute-based QA methods, generative methods [219-222] appear to be simpler and more scalable. However, they require a large amount of supervised training data. With the advancement of pre-trained language models (PLMs) in the field of natural language processing, particularly models like BERT [223] and GPT [224], the capabilities of pre-trained models in language understanding and generation have become increasingly powerful. Researchers have found that fine-tuning pre-trained models with a small amount of supervised data can yield impressive results on specific tasks. This discovery has led to the application of PLMs in generative conversational recommender systems. For example, DialoGPT [215] achieved promising dialogue intelligence by fine-tuning GPT-2 on dialogue data collected from platforms like Reddit. Subsequently, BARCOR [220], RecInDial [222], and UniCRS [221] utilized DialoGPT for constructing conversational recommender systems, with variations in their action decision strategies. While PLMs reduce the dependency of generative dialogue models on extensive data, the fine-tuning process still incurs significant computational time and requires the collection of high-quality domainspecific training data due to the large parameter space.

With the increase in model parameters and training data, the intelligence and knowledge capacity of models continues to improve. OpenAI has been expanding the model parameters and training data while employing techniques such as RLHF (Reinforcement Learning from

Human Feedback) and Instruction Tuning to further fine-tune GPT-3 [3]. This has led to the emergent abilities of models like InstructGPT [37] and subsequent models like ChatGPT, which exhibit incredible intelligence and have opened the doors to new intelligent dialogue systems based on large language models (LLMs). Furthermore, Google’s BARD and META’s LLaMA [32] are also large language dialogue models that have been proposed and demonstrated remarkable performance in conversational abilities. The Vicuna model, for instance, utilizes dialogue corpora shared by users in using ChatGPT to fine-tune the open-source LLaMA model, with the team claiming it can achieve over of ChatGPT’s capability. This series of successive LLM introductions has brought new insights to conversational recommender systems. Due to the utilization of extensive open-domain corpora during the training of LLM, it possesses inherent conversational recommendation capabilities and can provide reasonable recommendations in open domains such as movies, music, news, and games.

However, there are still significant challenges in building an enterprise-level CRS. The first challenge is the lack of awareness of large models about private domain data. It is well known that most of the training data for LLMs, such as GPT-3, comes from publicly available sources on the internet. As a result, these models may lack visibility into the data that resides within information platforms, making their modeling and understanding capabilities of such data relatively poor. To address this challenge, there are currently two approaches being explored: fine-tuning [215] and tool learning [225, 226]. Fine-tuning involves tuning LLM using private domain-specific dialogue data. There are two major concerns in the approach. First, massive high-quality domain-specific dialogue data is required to tune the extremely large model. However, in most recommendation scenarios, data primarily consists of explicit or implicit user-item interactions, which may lack conversational context. Therefore, generating high-quality dialogue data from interaction data is a key concern in the approach. In RecLLM [226] and iEvaLM [227], researchers have proposed using LLMs to construct a user simulator for generating conversational data. Besides, the fine-tuning technique plays a crucial role in determining the ultimate quality of LLMs. A well-designed and effective fine-tuning strategy can lead to significant improvements in the model’s performance and capabilities, such as instruction tuning and RLHF proposed in InstructGPT [3]. Tool learning is another approach to address this challenge, and its main idea is to treat traditional recommendation models as tools to be utilized, such as Matrix Factorization (MF) and DeepFM. For a more detailed explanation of tool learning, please refer to Section 9. Since recommendation models are domain-specific, LLM can leverage these models to obtain recommendation results and recommend them to the users in the response. In this approach, there are two main technical points: the construction of the tool model and the engineering of prompts to guide the LLM in the proper utilization of the tool. First of all, conventional recommendation models generally use id or categorical features as input, while users always give their requirements or preferences in natural language in conversations. Therefore, unstructured text features should be taken into consideration in tool construction. In Chat-Rec [225], a conventional recommendation model and a text embedding-based model(text-embedding-ada-002) are used as tools. RecLLM [226] adapted a language model enhanced dual-encoder model and several text retrieval methods as the recommendation engine. On the other hand, despite the strong intelligence and reasoning capabilities of LLMs, effectively harnessing these abilities requires well-crafted prompts for guidance. For instance, the Chain of Thought proposed by Jason [38] could trigger LLM to reason and engage in step-by-step thinking, which
benefits the tool-using capability. Subsequent studies like ToT [228], Plan-and-Solve [229] and ReAct [230] have proposed more advanced techniques for prompt design to assist in guiding LLM to engage in deeper thinking and tool planning.

The second challenge lies in the issue of memory and comprehension in long conversations. Due to the input constraints of LLMs, models like ChatGPT can support a maximum of 4096 tokens in a single call, including both input and output. In multi-turn dialogue scenarios, longer dialogue contexts often meet the risk of exceeding this token limit. The simplest approach to tackle this challenge is to trim the dialogue by discarding earlier turns. However, in conversational recommender systems, users may express a significant amount of personal information and interests in the early stages of the conversation. The omission of such information directly impacts the accuracy of recommendations. To address this issue, several relevant works have proposed solutions. MemPrompt [231] enhances the prompt by incorporating a memory module, enabling GPT-3 to possess stronger long-dialogue memory capability. Similarly, RecLLM [226] leverages LLM to extract user profiles and store them as factual statements in user memory. When processing user queries, relevant facts are retrieved based on text similarity.

Tool learning is an emerging research field that aims to enhance task-solving capabilities by combining specialized tools with foundational models, which has been understood by [232] as two perspectives:

LLMs are commonly applied as controllers to select and manage various existing AI models to solve complex tasks, which rely on user input and language interfaces on making summarizations. They act as the central component, responsible for comprehending problem statements and making decisions regarding which actions to execute. Additionally, they aggregate the outcomes based on the results of the executed actions. In that case, HuggingGPT [243] leverages existing models from the Hugging Face community to assist in

task-solving. Visual ChatGPT [244] combines visual foundation models like BLIP [247], Stable Diffusion [248], etc. with LangChain to handle complex visual tasks, while the following TaskMatrix.AI [245] maintains a unified API Platform extending the capabilities of Visual ChatGPT, extends the capabilities of Visual ChatGPT by maintaining a unified API Platform, enabling input from multiple modalities and generating more complex task solutions. On the contrary, Auto-GPT operates as an agent that autonomously understands specific targets through natural language and performs all processes in an automated loop, without requiring mandatory human input.

WebGPT [239] introduces a text-based Web browsing interactive environment, where LLMs learn to emulate the complete process of human interaction with a Web browser using behavior cloning and rejection sampling techniques. In ReAct [230], by leveraging an intuitive prompt, LLMs learn to generate both reasoning paths and task-specific actions alternately when solving a specific task. The execution of specific actions is delegated to corresponding tools, and external feedback obtained from these tools is utilized to validate and guide the reasoning process further. The motivation behind Toolformer [246] aligns closely with ReAct; however, it goes a step further by combining diverse tools within a single model. This integration provides the model with flexible decision-making abilities and improved generalization capabilities, achieved through a simple yet effective self-supervised method. In contrast to prior works, LATM [249] takes a novel approach by empowering LLMs to directly generate tools. It achieves a division of labor within the task-solving process by employing LLMs at different scales: the tool maker, tool user, and dispatcher. LATM is entirely composed of LLMs, enabling the self-generation and self-utilization of tools.

Recently, LLMs have demonstrated impressive abilities in leveraging internal world knowledge and common sense reasoning to accurately understand user intent from dialogues. Moreover, LLMs can communicate with users fluently in natural language, offering a seamless and delightful user experience. These advantages make LLMs an appealing choice as recommendation agents to enhance the personalized experience.

However, despite the impressive memory capacity of LLMs, they face challenges in memorizing specific knowledge in private and specialized domains without sufficient training. For instance, storing the item corpus and all user profiles in a recommender system can be challenging for LLMs. This limitation can result in LLMs generating inaccurate or incorrect responses and makes it difficult to control their behavior within a specific domain. Furthermore, LLMs face the challenge of the temporal generalization problem as external knowledge continues to evolve and change over time. To address these issues, various tools can be utilized to augment LLMs and enhance their effectiveness as recommendation agents. Table 4 shows examples of related tools.

Search engine Search engines are widely employed to provide external knowledge to LLMs, reducing LLMs’ memory burden and alleviating the occurrence of hallucinations in LLMs’ responses. BlenderBot 3 [250] uses specific datasets to fine-tune a series of modules, enabling LLMs to learn to invoke the search engine at the appropriate time and extract useful knowledge from the retrieval results. LaMDA [238] learns to use a toolset that includes an IR

system, a translator, and a calculator through fine-tuning to generate more factual responses. RETA-LLM [251] is a toolkit for retrieval-augmented LLMs. It disentangles IR systems and LLMs entirely, facilitating the development of in-domain LLM-based systems.Thoppilan et al. [238] shows a case of applying LaMDA to content recommendation. Preconditioned on a few role-specific dialogues, LaMDA can play the role of a music recommendation agent.

Recommendation engine Some works have attempted to alleviate the memory burden of LLMs by equipping them with a recommendation engine as a tool, enabling LLMs to offer recommendations grounded on the item corpus. The recommendation engine in ChatREC [225] is further divided into two stages: retrieve and reranking, which aligns with typical recommendation system strategies. In the retrieval stage, LLMs utilize traditional recommendation systems as tools to retrieve 20 items from the item corpus as a candidate item set. Subsequently, LLMs employ themselves as tools to rerank the candidate item set. LLMs’ commonsense reasoning ability, coupled with the internal world knowledge within them, allow them to provide explanations for the sorting results. The recommendation engine tool used in RecLLM [226] is highly similar to it in Chat-REC, and it is also divided into retrieval and reranking stages. RecLLM provides several practical solutions for large-scale retrievals, such as Generalized Dual Encoder Model and Concept Based Search, and so on.

Database Databases are also utilized as tools to supplement additional information for LLMs. In order to better cope with the cold-start problem for new items and alleviate the temporal generalization problem of LLMs, a vector database is utilized to provide information for new items that the LLMs are unaware of in Chat-REC [225]. When encountering new items, LLMs can utilize this database to access information about them based on the similarity between the user’s request embedding and item embeddings in the database. User profiles can also help LLMs better understand the user’s intent. RecLLM [226] employs a user profile module as a tool to deposit meaningful and enduring facts about users exposed during historical conversations in user memory and retrieve a single fact related to the current dialogue when necessary.

Although some works have applied the concept of tool learning to personalization systems, there are still interesting and promising research topics that deserve exploration. 1) Fine-tuning models for better tool use. In-context learning has shown promise in teaching LLMs how to effectively use tools with a small number of demonstrations, as shown in Chat-REC and RecLLM. However, LLMs often struggled to learn strategies for handling complex contexts with limited demonstrations. Fine-tuning is a viable option for improving tool use, but it requires sufficient training data and effective techniques. RecLLM further fine-tunes some modules of it using synthetic data generated by a user simulator through RLHF [37] technique. Investigating methods to obtain sufficient training data and developing tailored fine-tuning techniques for recommendation systems is a worthwhile research direction. 2) Developing a more powerful recommendation engine. Traditional recommendation systems often rely on collaborative filtering signals and item-to-item transition relationships for recommendations. However, with the use of LLMs as the foundation models, user preferences can be reflected through natural language and even images. Therefore, developing a recommendation engine that supports multimodal data is a crucial research direction. Additionally, the recommendation engine should also be capable of adjusting the candidate set based on user preferences or feedback (such as querying movies of a specific genre or disliking an item in the recommendation set). 3) Building more tools. To provide LLMs with more authentic and personalized information, the development of additional tools is crucial. For example, APIs for querying knowledge graphs [252] or accessing users’ social
relationships can enhance the knowledge available to LLMs, enabling more accurate and tailored recommendations.

Traditional recommender systems focus on suggesting existing items based on user preferences and historical data, where displayed content is already generated for retrieval. However, with the advancements in techniques and platforms for content creators, personalized content creator has attracted more and more attention, where more appealing content is customized generated to match the user’s interests and preferences, especially in the realm of online advertising [253]. The common contents contain the visual and semantic contents [254-256], such as title, abstract, description, copywritings, ad banners, thumbnail, and videos. One more widely discussed topic is text ad generation, where the ad title and ad description are generated with personalized information. Earlier works adopt the pre-defined templates [254, 257, 258] to reduce the extensive human effort, which, however, often fail to fully meet the user’s interests and preferences. More recent data-driven methods have emerged, which incorporate user feedback as rewards in the reinforcement learning framework to guide the generation process [259-262]. Furthermore, the incorporation of pre-trained language models has played a significant role in improving the generation process for multiple content items [263-266]. This integration helps refine the content generation models and improve their ability to meet user preferences effectively.

As recommender systems and large language models continue to evolve, a promising technique that would bring new opportunities is the integration of AI Generated Content (AIGC). AIGC [267] involves the creation of digital content, such as images, music and natural language through AI models, with the aim of making the content creation process more efficient and accessible. Earlier efforts in this field focused on deep-learning-based generative models, including Generative Adversarial Networks (GANs) [268], Variational AutoEncoders (VAEs) [269], Normalizing Flows [270], and diffusion-based models [271] for high-quality image generation. As the generative model evolves, it eventually emerges as the transformer architecture [28], acting as the foundational blocks for BERT [29] and GPT [224] in the field of NLP, and for Vision Transformer (ViT) [272] and Swin Transformer [273] in the field of CV. Moreover, the scope of generation tasks expanded from uni-modal to multi-modal tasks, including the representative model CLIP [274], which can be used as image encoders with multi-modal prompting for generation. The multi-modal generation has become an essential aspect of AIGC, which learns the multimodal connection and interaction, typically including vision language generation [274], text audio generation [275], text graph generation [276], text Code Generation [277]. With the emergence of large language models, nowadays AIGC is achieved by extracting the human intention from instructions and generating the content according to its knowledge and intention. Representative products, including ChatGPT [278], DALL-E-2 [279], Codex [280] and Midjourney [281], have attaining significant attention from society. With the growth of data and model size, the model can learn more comprehensive information and thus leading to more realistic and high-quality content creators.

Recall to the personalized content creator, the large language models would bring opportunities from the following points (Figure 6). Large language models would further extend

the capabilities of the pre-trained model, allowing for better reasoning of user personalized intent and interest. Previous methods [264, 265] depending on tailored pre-training models may be enhanced to better improve the reasoning abilities and few-shot prompting. Secondly, Reinforcement Learning from Human Feedback (RLHF) strategy can be applied to fine-tune models to better capture the user intent information, similar to existing RL-based framework [260] for text ad generation. Last but not least, the powerful generative abilities of large language models empower realistic creation thanks to the availability of sufficient cross-modal knowledge bases. The work [282] more specifically proposes a recommendation paradigm based on ChatGPT, where the generation process receives feedback and multiple rounds of conversions to better capture the user explicit preferences. Compared to previous training paradigms, more explicit expressions of user interest can be understood by the large language models and converted into corresponding instructions to guide the generation of content, significantly alleviating the problem of extremely sparse feedback. The integration of AIGC (Artificial Intelligence and Generative Content) with recommender systems offers valuable opportunities in various business scenarios. In E-commerce, large language models can power chatbots for personalized product recommendations and create captivating content to attract users. In Customer Service, AIGC enables automated responses, FAQs, and personalized assistance, improving support efficiency and customer satisfaction. Overall, integrating AIGC with recommender systems enhances user experiences and drives business growth.

However, there are two major security and privacy risks for personalized content creators. One of the concerns is the reliability of models like ChatGPT in terms of factuality, as indicated in the work [283]. While these models generate content that appears reasonable, there is a risk of distributing misleading or inaccurate information, which can weaken the truthfulness of internet content. This concern becomes particularly crucial in personalized recommendations, where the model may inadvertently promote misleading information tailored to the user’s interests. The second concern revolves around data privacy, encompassing both user profiles and long-term human interaction histories. In the case of large language models, these interaction histories are collected or shared, potentially leading to the large
models memorizing sensitive user data. Previous work [284] has demonstrated that large language models, especially GPT-2 [285], memorize and leak individual training examples. This emphasizes the need for strict user approval and careful handling of annotator data to mitigate privacy risks. It is crucial to develop new techniques that prioritize privacy preservation during the training process.

Personalization services, particularly with recommender systems, are complex industrial products that face numerous challenges when implemented in real-world scenarios. We will now summarize the key challenges as follows:

Scaling computational resources Existing large language models, such as BERT and GPT, demand significant computational power for training and inference. This includes high memory usage and time consumption. Fine-tuning these models to align them with personalization systems, which has shown promising results for improved personalization performance, can be computationally intensive. Several efficient finetuning strategies, e.g., option tuning in M6-Rec [175], Lora [286], QLora [287], have been developed to address this issue and pave the way for more efficient tuning.

Significant response time Achieving efficient response times is crucial for online serving and greatly impacts the personalized user experience. Response time includes both the inference phase of large language models and the concurrent user requests in large numbers. The introduction of large language models can result in considerable inference time, posing a challenge for real-world deployment. One approach is to pre-compute the embeddings of intermediate outputs from language models, storing and indexing them in a vector database, particularly for methods that utilize large language models as textual encoders. Other approaches, such as distillation and quantization, aim to strike a balance between performance and latency.

Large language models are widely known to leverage extensive amounts of open-domain knowledge during their training and fine-tuning processes. These knowledge sources include well-known references such as Wikipedia, books, and various websites [3]. Similarly, when applied in recommender systems, these models often rely on representative open-domain datasets such as MovieLens and Amazon Books. While this type of open-domain knowledge contains a wealth of common-sense information, personalized tasks require access to more domain-specific data that is not easily shareable. Additionally, the nature of user feedback in personalized tasks can be complex and sparse, often accompanied by noisy feedback. Collecting and filtering this data, in contrast to acquiring common-sense knowledge, presents challenges. It incurs higher labour costs and introduces additional training redundancy due to the need for extensive data processing and filtering. Furthermore, designing appropriate prompts to instruct or fine-tune large language models is crucial for aligning them with the distribution of in-domain inputs in personalization tasks. By carefully tailoring the prompts,
researchers and practitioners can guide the model to produce outputs that better cater to personalized applications, thereby maximizing performance and effectiveness.

Large language models have a limitation on the maximum number of input tokens they can handle, typically constrained by the context window size, e.g., 4096 for ChatGPT. This poses challenges when dealing with long user behavior sequences, which are common in modern recommender systems. Careful design is necessary to generate effective and appropriate prompt inputs within this limited length. In the case of conversations with multiple rounds, accumulating several rounds of dialogue can easily exceed the token limit of models. The current approach in handling long conversations is to truncate the history, keeping only the most recent tokens. However, this truncation discards valuable historical information, potentially harming the performance of models. To address these challenges, several techniques can be employed. One approach is to prioritize and select the most relevant parts of the user behavior sequence or conversation history to include in the prompt. This selection can be based on various criteria such as recency, importance, or relevance to the task at hand. Another technique involves summarizing or compressing the lengthy input while preserving essential information. This can be achieved through techniques like extractive summarization or representing the long sequence in a condensed form. Moreover, architectural modifications, such as hierarchical or memory-augmented models, can be explored to better handle long sequences by incorporating mechanisms to store and retrieve relevant information efficiently.

In addition, collaborative modeling of long text data and recommendation tasks is an emerging and pressing challenge. In conventional personalization systems, item ID information along with other categorical information is commonly used for modeling feature interactions and user preferences. With the rise of large language models, there would be a growing trend toward leveraging textual information more extensively. Textual data provides unique insights about items or users, making it valuable for modeling purposes. From the perspective of modeling, dealing with long text data requires more attention and complexity compared to categorical data, not to mention the need to match the modeling of user interests. From the perspective of implementation, reforming the entire pipeline becomes necessary to accommodate the requirements of efficient latency. There lie the technical challenges of incorporating long text data into recommendation models and serving them in real time.

While large language models provide good reasoning capabilities, they are notorious for the nature of the ‘black box’, which is highly complex and non-linear in their enormous size and layered architecture, making it challenging to comprehend the internal workings and understand the generation process of recommendations. Without a deep understanding of how the model operates, it becomes challenging to detect and address biases or ensure fair and ethical recommendations. Once transparency about the internal mechanisms is lacking, users struggle to trust and accept the decisions made by the system. Users often desire understandable explanations for recommended choices. Addressing the challenge of model interpretability and explainability requires research involving natural language processing, explainable AI, human-computer interaction, and recommendation systems. The development of techniques
that unveil the inner workings of language models, facilitate the generation of meaningful and accurate interpretations, and enable robust evaluation methods is the main focus. By providing transparent and interpretable recommendations, users can establish trust, understand the reasoning behind the recommendations, and make informed decisions.

Conventional personalization systems typically rely on task-specific metrics such as rankingoriented metrics, NDCG, AUC, and Recall to evaluate model performance. However, with the integration of large language models into recommender systems, the evaluation tools and metrics undergo significant changes. Traditional metrics may not sufficiently capture the performance of recommender systems powered by large language models, which introduce novel capabilities and generate recommendations in a different manner and require the development of new evaluation tools.

One crucial aspect of evaluation is considering user preferences in large language modelpowered systems, which requires a user-centric approach. Metrics such as user satisfaction, engagement, and overall experience become essential considerations. For example, Liu’s work [162] proposes a crowdsourcing task to assess the quality of generated explanations and review summaries, providing a way to evaluate the effectiveness of the generated content. Additionally, user satisfaction surveys and feedback questionnaires can serve as valuable options.

Another perspective to consider is the health of the system, which involves evaluating novelty and assessing factors like diversity, novelty, serendipity, and user retention rates. These metrics help evaluate the freshness of recommendations and the long-term effects of large language models. Furthermore, it is crucial to assess the interpretability and fairness of recommendations. The interpretability assessment focuses on measuring the clarity, understandability, and transparency of recommendations. Simultaneously, the fairness evaluation aims to address potential biases in personalized results. By prioritizing fairness, we strive to create personalized experiences that are equitable and inclusive for all users. Both of these evaluations are essential to enhance the overall user experience and build confidence in the personalized recommendations delivered by the system.

When large language models are employed for personalization, some of their disadvantages would be magnified. Striving for a more honest and harmless system may come at the expense of system performance.

First of all, the accuracy and factuality of the system must be ensured. Although large language models can generate seemingly reasonable content, there is a risk of disseminating misleading or inaccurate information. This becomes even more critical when incorporating user feedback, as the model may mimic user behaviors in an attempt to appear honest. However, this imitation can result in biased guidance for users, offering no real benefits.

Secondly, in terms of harmlessness, concerns regarding privacy, discrimination, and ethics arise. While large language models have the potential to provide highly personalized recommendations by leveraging user data, privacy, and data security become paramount. Unlike open-domain datasets, the privacy of individual data used for training should be rigorously
protected, with strict user permissions for sharing their personal information. For discrimination, large language models may inevitably reflect biases inherent in the training data, leading to discriminatory recommendations. Considering the biased user and item distribution, which is much more significant in recommender systems with the long-tail effect, where biased user and item distribution can lead to decisions that favor majority choices, resulting in discrimination against certain users. The final concern revolves around ethical considerations. Harmful messages, if clicked by users unconsciously, can guide large language models toward generating similar harmful content. However, when assisting in personalized decision-making, it is essential for large language models to have the capability to minimize exposure to harmful messages and guide users in a responsible manner. Approaches like constructing a Constitutional AI [288], where critiques, revisions, and supervised Learning are adopted for better training models, may offer valuable insights.

By addressing these concerns, safeguarding privacy, mitigating discrimination, and adhering to ethical guidelines, recommender systems can leverage the power of large language models while ensuring user trust, fairness, and responsible recommendations.

In conclusion, the emergence of large language models represents a significant breakthrough in the field of artificial intelligence. Their enhanced abilities in understanding, language analysis, and common-sense reasoning have opened up new possibilities for personalization. In this paper, we provide several perspectives on when large language models adapt to personalization systems. We have observed a progression from utilizing low-level capabilities of large language models to enhance performance, to leveraging their potential in complex interactions with external tools for end-to-end tasks. This evolution promises to revolutionize the way personalized services are delivered. We also acknowledge the open challenges that come with the integration of large language models into personalization systems.

Author Contributions Jin Chen organized the main writing and wrote the main manuscript text. Zheng Liu organized the entire structure of the manuscript and wrote the introduction of large language models. Xu Huang wrote the Section 8: LLMs as Conversational Agent. Chenwang Wu wrote the Section 6: LLMs as Explainer. Qi Liu and Gangwei Jiang wrote the Section 5: LLMs as Content Interpreter. Yuanhao Pu, Yuxuan Lei and Xiaolong Chen wrote Section 9: Tool-Learning and its Applications in Recommendation. Xingmei Wang wrote the Section 7.2 Reasoning for Automated Selection. Kai zheng, Defu Lian, and Enhong Chen revised the article over and over again. All authors reviewed the manuscript.

Funding Open access funding provided by Hong Kong University of Science and Technology. This work was supported by the National Natural Science Foundation of China (NSFC) No. 62022077.

Data Availability No datasets were generated or analysed during the current study.

Competing of interest The authors declare no competing interests.
Ethical Approval This research does not involve human participants or pose potential harm to individuals. As such, formal ethical approval was not required. However, we would like to emphasize our commitment to ethical research practices and confirm that the study adheres to the ethical guidelines and principles set forth in ACM Code of Ethics.

Open Access This article is licensed under a Creative Commons Attribution 4.0 International License, which permits use, sharing, adaptation, distribution and reproduction in any medium or format, as long as you give appropriate credit to the original author(s) and the source, provide a link to the Creative Commons licence, and indicate if changes were made. The images or other third party material in this article are included in the article’s Creative Commons licence, unless indicated otherwise in a credit line to the material. If material is not included in the article’s Creative Commons licence and your intended use is not permitted by statutory regulation or exceeds the permitted use, you will need to obtain permission directly from the copyright holder. To view a copy of this licence, visit http://creativecommons.org/licenses/by/4.0/.

Publisher’s Note Springer Nature remains neutral with regard to jurisdictional claims in published maps and institutional affiliations.

Jin Chen
jinchen@ust.hk
Zheng Liu
zhengliu1026@gmail.com
Xu Huang
xuhuangcs@mail.ustc.edu.cn
Chenwang Wu
wcw1996@mail.ustc.edu.cn
Qi Liu
qiliu67@mail.ustc.edu.cn
Gangwei Jiang
gwjiang@mail.ustc.edu.cn
Yuanhao Pu
puyuanhao@mail.ustc.edu.cn
Yuxuan Lei
lyx180812@mail.ustc.edu.cn
Xiaolong Chen
chenxiaolong@mail.ustc.edu.cn
Xingmei Wang
xingmeiwang@mail.ustc.edu.cn
Kai Zheng
zhengkai@uestc.edu.cn
Defu Lian
liandefu@ustc.edu.cn
Enhong Chen
cheneh@ustc.edu.cn
1 Hong Kong University of Science and Technology, Hong Kong, China
2 Beijing Academy of Artificial Intelligence, Beijing, China
3 University of Science and Technology of China, Hefei, China
4 University of Electronic Science and Technology of China, Chengdu, China