تقدم البحث المحول المبكر الثنائي (BEExformer)، وهو بنية جديدة للمحول مصممة لتعزيز كفاءة نماذج اللغة الكبيرة (LLMs) مع معالجة التحديات التي تطرحها حجمها ومتطلبات المعالجة. يدمج BEExformer التدريب القائم على الثنائي (BAT) مع آلية الخروج المبكر (EE)، مستخدمًا شبكة نسيان التعلم الانتقائي (SLFN) داخل كل كتلة من المحول لتحسين الاحتفاظ بالسياق والتخلص من المعلومات غير…