تقدم ورقة البحث Mooncake، وهي بنية مفككة مصممة خصيصًا لخدمة Kimi LLM من قبل Moonshot AI. المركز في تصميمها هو نهج مركزي يعتمد على KVCache يفصل بين مجموعات التهيئة وفك التشفير، مما يستفيد بشكل فعال من موارد CPU وDRAM وSSD غير المستخدمة داخل مجموعة GPU لإنشاء ذاكرة تخزين مفككة. تحكم البنية جدولة مركزية تعتمد على…