هواوی از فناوری متن‌باز SINQ برای کاهش مصرف حافظه مدل‌های زبانی بزرگ رونمایی کرد - پیوست

آزمایشگاه سیستم‌های محاسباتی هواوی در شهر زوریخ از یک روش نوین و متن‌باز رونمایی کرده است که می‌تواند مصرف حافظه در مدل‌های زبانی بزرگ (LLMs) را تا حد قابل توجهی کاهش داده و در نتیجه هزینه سخت‌افزاری را کمتر کند. این روش که بدون افت محسوس در کیفیت خروجی مصرف حافظه را کاشه می‌دهد، اجرای