تم إطلاق إطار العمل سلايم (Slime) بشكل رسمي كمصدر مفتوح من قبل تي إتش يو دي إم (THUDM)، مما يوفر للمطورين نفس حزمة التدريب اللاحق المستخدمة لنموذج جي إل إم-5.2 (GLM-5.2) التابع لشركة جيبو إيه آي (Zhipu AI). يتيح هذا الإصدار للباحثين تكرار حلقات التدريب المتوازية التي دمجت نماذج خبراء متعددة في نظام واحد. تم تصميم الأداة للتعامل مع مهام الوكيل المعقدة وطويلة المدى بكفاءة عالية في قطاع الذكاء الاصطناعي.
ما هو إطار العمل سلايم؟
تعمل هذه الأداة كنظام تدريب لاحق متخصص لزيادة حجم التعلم المعزز. وبدلاً من الاعتماد على أدوات تدريب وخدمات نشر منفصلة، فإنها تدمج التدريب وتوليد البيانات وحساب المكافآت في مسار واحد موحد. يمكن للمطورين الوصول إلى الكود البرمجي مباشرة عبر مستودع GitHub الرسمي.
البنية البرمجية والمكونات الأساسية
يتكون النظام من ثلاثة مكونات رئيسية. أولاً، تدير وحدة التدريب عملية التعلم الأساسية باستخدام Megatron. ثانياً، تقوم وحدة النشر بتوليد بيانات جديدة باستخدام SGLang. وأخيراً، يقوم مخزن البيانات المؤقت بإدارة تهيئة المطالبات والاستراتيجيات المخصصة. يدعم إطار العمل سلايم كلاً من الوضع المتزامن المشترك والوضع غير المتزامن المنفصل، وهو ما تم توضيحه بالتفصيل في مدونة LMSYS Org.
تدريب نموذج GLM-5.2 في يومين فقط
تتجلى كفاءة هذا النظام في سجل إنتاجه الحافل. استغرقت مرحلة التدريب اللاحق الكاملة لنموذج GLM-5.2 حوالي 2 يوم فقط باستخدام هذه المنصة. وتعد هذه السرعة مذهلة بالنظر إلى أن GLM-5.2 هو نموذج خليط الخبراء (MoE) يضم 750 مليار معلمة، مع وجود 40 مليار معلمة نشطة لكل رمز ومساحة سياق تصل إلى 1 مليون رمز.
تأثير السوق والوصول المفتوح
أثر هذا الإصدار بشكل مباشر على قطاع الاقتصاد والأعمال التقني. ووفقاً لتقرير نشرته صحيفة South China Morning Post، فقد ارتفعت أسهم الشركة المرتبطة بشكل ملحوظ بعد إعلان الإتاحة كمصدر مفتوح. من خلال توفير إطار العمل سلايم، تقدم THUDM بنية تحتية قوية وموثوقة لمجتمع التطوير العالمي، حيث يمكن تشغيل النموذج محلياً باستخدام التطبيقات والبرمجيات المتنوعة مثل SGLang وvLLM.
