تقدم الورقة مراجعة شاملة لنماذج اللغة الكبيرة (LLMs)، مع تسليط الضوء على التقدم الكبير الذي حققته في الذكاء الاصطناعي (AI) ومعالجة اللغة الطبيعية (NLP). تبدأ بمناقشة التأثير التحويلي لهندسة المحولات، التي تستخدم آليات الانتباه الذاتي لالتقاط الاعتمادات طويلة المدى والعلاقات السياقية بفعالية، متجاوزة النماذج السابقة مثل الشبكات العصبية التكرارية والشبكات العصبية الالتفافية. يتم فحص الابتكارات…