الأبحاث في مجلة: Proceedings of the 63rd Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers)
-
أذكى، أفضل، أسرع، أطول: مشفر ثنائي الاتجاه حديث للتدريب الدقيق والاستدلال السريع والفعال من حيث الذاكرة والسياق الطويل
Smarter, Better, Faster, Longer: A Modern Bidirectional Encoder for Fast, Memory Efficient, and Long Context Finetuning and Inference2025 | المؤلف: Benjamin C. Warner وآخرون | المجلة: Proceedings of the 63rd Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers) | المجال: الرؤية الحاسوبية والتعرف على الأنماط (Computer Vision and Pattern Recognition)يقدم هذا القسم ModernBERT، وهو نموذج متقدم من نوع المحولات يعتمد فقط على الترميز، والذي يعزز الأداء بشكل كبير في مهام الاسترجاع والتصنيف مقارنة بسابقيه، وخاصة BERT. تم تدريبه على 2 تريليون رمز مع أقصى طول تسلسل يبلغ 8192، يحقق ModernBERT نتائج رائدة في مختلف المعايير، بما في ذلك مجموعة بيانات GLUE، حيث يتفوق على…
-
نموذج اللغة الطبية الكبير المعتمد على الأدلة عبر استرجاع الرسوم البيانية: RAG الطبي
Medical Graph RAG: Evidence-based Medical Large Language Model via Graph Retrieval-Augmented Generation2025 | المؤلف: Junde Wu وآخرون | المجلة: Proceedings of the 63rd Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers) | المجال: إدارة المعلومات الصحية (Health Information Management)تقدم ورقة البحث MedGraphRAG، وهو إطار مبتكر قائم على الرسوم البيانية لتعزيز الجيل المعزز بالاسترجاع (RAG) يهدف إلى تحسين نماذج اللغة الكبيرة (LLMs) لتوليد استجابات طبية قائمة على الأدلة. يتضمن الإطار تقنيات بناء الرسوم البيانية الثلاثية واسترجاع U لتسهيل الرؤى الشاملة وتوليد استجابات موثوقة في السياقات الطبية. من خلال ربط مستندات المستخدم بمصادر طبية موثوقة…