نهج يوجّه كل طلب إلى نموذج الذكاء الاصطناعي الأنسب وفق نوع المهمة والتكلفة.
أعلن Elon Musk أن Grok Bot سيستخدم أفضل نموذج متاح لكل مهمة، بما في ذلك Claude Opus 5.5 وواجهات أخرى، في تحول يعكس انتشار نهج فرز الطلبات بين نماذج متعددة للسيطرة على التكلفة. وتُظهر بيانات OpenRouter أن النماذج الأرخص تنفذ معظم حجم الطلبات، بينما تُحجز النماذج الأقوى للمهام التي تحتاجها فعلاً.
يقدم الجزء الخامس من سلسلة Stack Overflow Blog إطاراً عملياً لتشغيل أنظمة النماذج اللغوية الكبيرة، مع التركيز على قابلية المراقبة، ضبط التكلفة، توجيه الطلبات بين النماذج، التراجع الآمن، ومفتاح الإيقاف الفوري. الفكرة المحورية هي تمرير كل حركة النماذج عبر بوابة واحدة تربط القياس والتحكم والهوية والبنية التحتية.