أطلقت شركة الذكاء الاصطناعي الناشئة PrismML نموذجها Bonsai 2 27B، الذي يضغط نموذج Qwen3.8 27B مفتوح المصدر من Alibaba إلى ملف حجمه 5.9 غيغابايت فقط. وتقول الشركة إن النموذج المضغوط يحقق 98% من الدرجات المجمعة للنموذج الأصلي في الاختبارات المعيارية، مع خفض متطلبات الذاكرة بنحو يتراوح بين تسعة أضعاف وعشرة أضعاف.
الحجم الجديد يجعل تشغيل النموذج ممكناً على حاسوب شخصي، وربما على هاتف ذكي متقدم، بدلاً من الاعتماد الكامل على خوادم سحابية. ولا يعني ذلك أن كل هاتف سيتمكن من تشغيله عملياً، إذ إن المصدر يطرح التوافق مع الهواتف بصيغة احتمالية، كما أن الأداء الفعلي يعتمد على العتاد والبرمجيات المحيطة بتشغيل النموذج.
كيف تعمل تقنية الضغط؟
تعتمد PrismML على ما تسميه الأوزان الثلاثية. أوزان النموذج هي القيم التي تخزن جانباً من المعلومات التي يتعلمها أثناء التدريب، وتحتاج عادةً إلى 16 بتاً لكل وزن وفق شرح الشركة. أما النهج الجديد فيمثل كل وزن بإحدى ثلاث قيم فقط: موجب واحد، أو سالب واحد، أو صفر. يؤدي تقليص عدد القيم الممكنة إلى خفض كبير في المساحة اللازمة لتخزين النموذج.
يقود الشركة Babak Hassibi، وهو أستاذ في Caltech ومتخصص في تقنيات الضغط، بينما يعمل Ion Stoica مستشاراً لها. وتضم قائمة الداعمين Khosla Ventures وCerberus Capital وCaltech. وجمعت PrismML جولة تأسيسية بقيمة 22.25 مليون دولار، وهي ليست الشركة الوحيدة التي تعمل على ضغط نماذج اللغة الكبيرة، إذ أشار المصدر أيضاً إلى Multiverse Computing كمنافس في المجال.
نتائج أفضل من الإصدار السابق
يمثل Bonsai 2 تحسناً مقارنة بالإصدار الأول من Bonsai، الذي أطلقته الشركة في مارس وحقق 95% من درجات النموذج الأصلي، وفقاً لما نقلته TechCrunch عن الشركة. وتقول PrismML إن الإصدار الأول نُزّل أكثر من 11 مليون مرة، بينما سجلت نماذجها الأصغر 2.6 مليون تنزيل إضافي.
لكن نسبة 98% لا تعني تطابقاً كاملاً مع النموذج الأصلي، ولا تثبت وحدها أن الفارق الباقي لن يظهر في الاستخدامات العملية. ويقر Hassibi بأن الضغط سيترك على الأرجح أثراً ما على الأداء، كما أن الاختبارات المعيارية لا تعكس كل المهام الواقعية، وتؤثر البيئة البرمجية التي يعمل داخلها النموذج في دقته أيضاً.
لماذا يهم هذا التطور؟
إذا استمرت PrismML في تقليص النماذج مع الحفاظ على معظم قدراتها، فقد يصبح تشغيل نماذج الاستدلال محلياً أكثر قابلية للتطبيق. هذا يتيح معالجة البيانات على جهاز المستخدم بدلاً من إرسالها إلى السحابة، وهو ما قد يدعم الخصوصية ويقلل الاعتماد على الاتصال الخارجي، بحسب حجة Stoica. لكنه لا يحسم بعد أسئلة استهلاك الطاقة، وسرعة الاستجابة، وتوافق الأجهزة، ولا يثبت أن النموذج سيقدم مستوى الأداء نفسه في كل سيناريو.
تعتزم الشركة تطبيق تقنية الضغط على نماذج أكبر بكثير، وقال Hassibi إن الإصدارات المقبلة قد تقع ضمن نطاق عدة مئات من مليارات المعلمات خلال الأشهر القليلة المقبلة. ويرى أن النماذج الأكبر قد تمنح عملية الضغط مجالاً أوسع للحفاظ على قدراتها، إلا أن هذا الهدف ما يزال خطة مستقبلية لا نتيجة متاحة حتى الآن. كما أشار التقرير إلى شائعات عن محادثات مع Apple، لكن Hassibi رفض التعليق عليها، لذلك لا يمكن اعتبارها شراكة أو اتفاقاً معلناً.
كيف أعددنا هذا الخبر؟
اعتمد الخبر على المصدر الأصلي الموضح أعلاه. قد نستخدم أدوات آلية للمساعدة في الاستخراج والتصنيف والصياغة،
لكن النشر يخضع لقواعد تمنع المحتوى المكرر والقصير أو الروتيني منخفض القيمة.
اقرأ سياستنا التحريرية.