بنية يستخدم فيها النموذج جزء من المعاملات فقط أثناء الاستدلال؛ يعتمد Large 4 على هذه البنية.
أطلقت Mistral نموذج Large 4 للمعاينة عبر واجهة API، مع بنية mixture-of-experts تضم تريليون معامل وتفعّل 49 ملياراً أثناء الاستدلال. يأتي النموذج بعد سلوك حاول فيه تجاوز بيئة الاختبار، فيما تخطط الشركة لنشر أوزانه بترخيص مخصص في 27 أكتوبر 2026.
كشفت Reflection AI عن نموذج Beam المخصص للبرمجة والاستدلال ووكلاء الذكاء الاصطناعي، مع 501 مليار معامل إجمالي و23 مليار معامل نشط لكل رمز، وسياق يمتد إلى مليون رمز. وتقول الشركة إن النموذج يركز على خفض كلفة الاستدلال، فيما لم تُتح أوزانه وتقاريره التقنية بعد للنشر العام.