
معرفی روش HOPE آمازون برای هرس خبرگان مدلهای MoE
پژوهشگران آمازون در وبلاگ Hugging Face روش HOPE را برای هرس مدلهای ترکیبی خبرگان معرفی کردهاند که همکاری میان خبرگان را حفظ میکند. این روش میکوشد هزینه استنتاج و حافظه را کاهش دهد و در عین حال افت دقت را به حداقل برساند.












