دخلت شركة Subquadratic سباق نماذج القرار بإطلاق SubQ Snap في معاينة عامة، قائلة إن النموذج يستطيع معالجة ما يصل إلى 384 ألف رمز من النصوص والصور في طلب واحد. ويعادل ذلك 12 ضعف حد السياق البالغ 32 ألف رمز لنموذج Jev من TypeSafe، وفق المقارنة التي أجرتها الشركة.
وتقول Subquadratic إن Snap يستطيع معالجة 100 ألف رمز وإصدار قرار خلال نحو ثانية، ما يتيح لوكلاء الذكاء الاصطناعي فحص أجزاء كبيرة من مستودعات الشيفرة والوثائق وسجلات التفاعل قبل تحديد الإجراء التالي.
ما الذي تفعله نماذج القرار؟
على خلاف نماذج اللغة الكبيرة التي تولد النصوص والشيفرات، تختار نماذج القرار عادةً إجابة من مجموعة محددة مسبقاً. وقد يشمل ذلك اختيار الأداة التالية لوكيل ذكي، أو تحديد الملفات المرتبطة بمشكلة، أو تقرير ما إذا كان الاختبار قد نجح.
يرى Alex Whedon، الرئيس التنفيذي والمؤسس المشارك لـSubquadratic، أن هذه النماذج يجب ألا تقتصر على تقييم مخرجات نماذج اللغة أو اختيار النموذج الأنسب للمهمة، بل ينبغي أن تتولى أعمالاً يمكن الاستغناء بها عن استخدام نماذج اللغة الكبيرة الأعلى كلفة.
سياق أطول واختبارات داخلية
يعتمد Snap على بنية تسميها الشركة Subquadratic Sparse Attention، وتقول إنها تجعل متطلبات الانتباه تنمو خطياً مع طول السياق بدلاً من النمو التربيعي الشائع في المحولات. وتذكر الشركة أن النموذج اختُبر حتى مليون رمز، لكن المعاينة العامة محدودة حالياً عند 384 ألف رمز بسبب قدرة الحوسبة المتاحة؛ ويتطلب دعم مليون رمز نحو 2.6 ضعف الموارد الحاسوبية، بحسب Whedon.
في نسخة معدلة من اختبار RULER لاسترجاع المعلومات، سجل Snap بين 96.3 و99.8 مع مدخلات تراوحت من 32 ألفاً إلى مليون رمز. وفي اختبار Decision LCR للتفكير عبر وثائق متعددة، سجل 74.0 مقابل 48.0 لـJev، الذي عالج الوثائق على دفعات. كما سجل Snap 61.7 مقابل 57.9 في Decision Index 0.2.1، وحقق 82.9% مقابل 76.0% لـJev في اختبار Nimble من Bespoke Labs.
وعبر 16 اختباراً مخصصاً للمؤسسات، تقول Subquadratic إن Snap تفوق في 13 اختباراً بمتوسط 67.6 مقابل 61.6 لـJev، لكنه خسر في ثلاثة اختبارات، بينها When2Call الذي يقيس قرار الوكيل بين استدعاء أداة أو طلب توضيح أو الإجابة أو الرفض.
ما الذي يتغير عملياً؟
قد يقلل السياق الأكبر الحاجة إلى تقطيع المستندات والتلخيص والاسترجاع الدقيق عندما تكون البيانات ضمن حد 384 ألف رمز. ويقول Whedon إن ذلك يسمح بإدخال وثائق كاملة أو وحدات برمجية مترابطة بدلاً من انتقاء مقتطفات صغيرة قد تستبعد معلومات مهمة.
لكن النتائج المنشورة ليست تقييماً مستقلاً؛ فجميعها أُنتجت داخلياً بواسطة Subquadratic، رغم إتاحة الشركة شيفرة اختبارات السياق الطويل لإعادة التجربة. كما أن Snap غير موجود في أحدث لوحة ترتيب لـDecision Index، لأن الإصدار الحالي يركز على النماذج مفتوحة الأوزان ويتضمن اختبارات خاصة، ما يمنع المقارنة المباشرة بين نتيجة Snap في الإصدار 0.2.1 والنتائج الأحدث.
التوفر والتكلفة
يتوفر Snap حالياً في معاينة عامة بسعر 0.05 دولار لكل مليون رمز إدخال، من دون رسوم على المخرجات. وتقدر الشركة تكلفة معالجة 100 ألف رمز بنحو نصف سنت، بينما تبلغ تكلفة استخدام نافذة 384 ألف رمز كاملة نحو سنتين.
وتوضح Subquadratic أن الاسترجاع لن يختفي، لأن مجموعات بيانات المؤسسات أكبر من قدرة السياق المتاحة. لكن الشركة تراهن على أن نافذة أكبر ستسمح باسترجاع وثائق أو وحدات كاملة، بدلاً من الاعتماد على انتقاء مقتطفات دقيقة وهشة.
كيف أعددنا هذا الخبر؟
اعتمد الخبر على المصدر الأصلي الموضح أعلاه. قد نستخدم أدوات آلية للمساعدة في الاستخراج والتصنيف والصياغة،
لكن النشر يخضع لقواعد تمنع المحتوى المكرر والقصير أو الروتيني منخفض القيمة.
اقرأ سياستنا التحريرية.