في هذا القسم، يناقش المؤلفون التقدم في التعلم التبايني، مع التركيز بشكل خاص على استخدام خسارة InfoNCE، التي كانت لها دور حاسم في تحقيق تقدم كبير في التعلم الذاتي. جانب حاسم من استخدام خسارة InfoNCE هو ضبط معامل درجة الحرارة، الذي يضبط درجات التشابه بين أزواج البيانات. ومع ذلك، فإن الحاجة إلى تجارب واسعة من…