UnslothAI تصدر نسخة DGEMMA 4-31B من 4-بت MLX المحسنة لنظام Apple Silicon

أخبار ME، 11 أبريل (بتوقيت UTC+8)، أصدرت UnslothAI مؤخرًا نسخة محسنة من نموذج DGEMMA 4-31B بتقنية MLX ذات 4 بت الأصلية. تم تصميم هذا الإصدار خصيصًا لمعالجات Apple Silicon، ويُقال إنه يحقق سرعة استنتاج فائقة على جميع أجهزة Mac من سلسلة M، مع الحفاظ على استهلاك فعال للذاكرة (حوالي 20 جيجابايت من RAM). بالإضافة إلى ذلك، يتمتع النموذج بأداء قوي في الأداء متعدد الوسائط والرؤية، ويدعم طول سياق كامل يبلغ 256 ألفًا، بالإضافة إلى وظيفة استدعاء الدوال الأصلية. (المصدر: InFoQ)