كيف تُشغّل أنظمة LLM بأمان وكفاءة في بيئة الإنتاج؟

تشغيل نظام يعتمد على نموذج لغوي كبير لا ينتهي عند جعله متاحاً أو تحسين دقته الأولية. فقد يبقى النظام متاحاً بالكامل، بينما يوافق بصمت على قرارات خاطئة، أو يستهلك الميزانية بسرعة، أو ينتقل أثناء الأعطال إلى نموذج لم تُختبر جودته. لذلك يركز الجزء الخامس من سلسلة Running LLM systems in production على قابلية التشغيل اليومية، بوصفها الطبقة التي تجعل النظام قابلاً للرصد والتحكم والإيقاف والتعافي.

راقب القرار لا الخدمة فقط

مقاييس الخدمات التقليدية، مثل معدل الطلبات والأخطاء وزمن الاستجابة واستهلاك المعالج، لا تكشف ما إذا كان الوكيل يتخذ قرارات جيدة. يقترح المصدر إضافة طبقة مراقبة خاصة بالقرارات تشمل حجم القرارات، ونسبة التنفيذ الآلي، وتوزيع الثقة المركبة، وزمن كل عقدة، وحالات حجب ضوابط السلامة، واستهلاك الرموز والتكلفة، ومعدل تدخل البشر، ونتائج التقييمات الخفية على عينات من حركة الإنتاج.

ويحدد المصدر أربع عائلات من الإشارات: القرار، والسلامة، والتكلفة والأداء، والجودة. وإذا تعذر قياس كل شيء، فالأولوية تكون لنسبة التنفيذ الآلي، وعمليات حجب ضوابط السلامة، والتكلفة الإجمالية للنماذج، ومعدل تجاوز البشر لقرارات النظام.

كما يوصي بتقسيم السجلات إلى ثلاث طبقات: بيانات تشغيلية عالية الحجم، وبيانات وصفية للقرار داخل حدود الثقة، وبيانات خام أو منظمة تخضع للتشفير والتحكم الصارم. ويجب أن يحمل كل قرار معرفاً ثابتاً هو decision_id يربط المقاييس والسجلات والتتبعات وسجل التدقيق، بحيث يمكن التحقيق في قرار واحد من بدايته إلى نهايته.

اجعل التكلفة قابلة للقياس والحد

لا ينبغي توزيع استدعاءات النماذج في أجزاء مختلفة من قاعدة الشفرة، لأن ذلك يجعل التكلفة صعبة الإسناد والتحكم. بدلاً من ذلك، يقترح المصدر بوابة واحدة تمر عبرها جميع الاستدعاءات، وتتولى احتساب الرموز والتكلفة حسب المستأجر والقدرة والنموذج، إلى جانب تطبيق حدود المعدل والميزانية.

وتأتي أدوات خفض التكلفة بالترتيب التالي: عدم استدعاء النموذج عندما تكفي قاعدة حتمية، وتجميع العناصر في استدعاء واحد، وتخزين النتائج الحتمية مؤقتاً، واختيار نموذج أصغر للمهام البسيطة، ثم تقليص السياق والتعليمات غير الضرورية. كما يجب احتساب الرموز المقدرة قبل الاستدعاء، لا عدّ كل طلب كوحدة واحدة، مع وضع سقف إجمالي للمنصة وحدود لمحاولات الإعادة وحلقات الأدوات غير المحدودة.

التوجيه والتراجع ومفتاح الإيقاف

لا يوجد عملياً نموذج واحد لكل المهام. يمكن توجيه المهام منخفضة المخاطر وعالية الحجم إلى نموذج أصغر، وإسناد الحالات الغامضة أو الحساسة إلى نموذج أكثر قدرة، واستخدام عائلة مختلفة لنموذج الحكم حتى لا تتشارك النماذج نقاط الضعف نفسها. ويجب تقييم كل نموذج موجود في مسار التوجيه أو التراجع، لأن الانتقال إلى نموذج بديل قد يغير الجودة.

أثناء تعطل مزود، ينبغي استخدام سلسلة تراجع محددة مع مهلة إجمالية واحدة، وفاصل حماية يمنع استدعاء مزود معروف بتعطله، ومفاتيح idempotency لمنع معالجة القرار مرتين إذا انتهت مهلة الاستدعاء بعد نجاحه فعلياً. وعندما لا يكون البديل مقبولاً، يجب تحويل القرار إلى إنسان بدلاً من إخفاء التدهور.

أما مفتاح الإيقاف، فيقترح المصدر أن يعمل كحالة تشغيلية مشتركة يمكن أن تكون عامة أو مخصصة لمستأجر أو قدرة. وتشمل الحالات: التشغيل الطبيعي، وHUMAN_ONLY لإيقاف التنفيذ الآلي مع إبقاء المقترحات للبشر، وHALTED لإيقاف اتخاذ القرارات بالكامل. وإذا تعذر الوصول إلى المفتاح، فالسلوك الآمن هو التحول إلى وضع المراجعة البشرية، لا الاستمرار في التشغيل الطبيعي.

البنية التي تمنع الفوضى

يربط المصدر قابلية التشغيل ببنية سداسية الاتجاهات تفصل منطق المجال عن حزم مزودي النماذج عبر واجهة وبوابات تكيف. بهذه الطريقة يمكن تبديل المزود دون إعادة كتابة منطق الأعمال، ويمكن اختبار المجال باستخدام نموذج وهمي بلا شبكة أو تكلفة.

وتشمل البنية الأساسية خدمات وكلاء عديمة الحالة، وبوابة نماذج، ومخزن تدقيق إلحاقي، وذاكرة مشتركة للحدود ومفتاح الإيقاف، ومخزناً للأسرار، وتخزيناً كائنياً للمدخلات والبيانات الحساسة. كما يشدد المصدر على هوية مستقلة لكل خدمة، وأقل قدر من الصلاحيات، والتحقق من تطابق هوية المستأجر مع الطلب في كل قفزة، خصوصاً عند استخدام منح تفويض قصيرة العمر للمهام المؤجلة.

لماذا يهم هذا الخبر؟

القيمة العملية هنا ليست في إضافة مكوّن جديد، بل في جمع نقاط التحكم الحرجة في منفذ واحد: البوابة التي تجعل تبديل النموذج ممكناً هي نفسها التي تقيس التكلفة، وتطبق الحدود، وتدير التوجيه والتراجع، وتفعّل الإيقاف. ويظل نجاح هذا النهج مشروطاً باختبار سيناريوهات الفشل فعلياً، مثل تعطل مزود النموذج، وتفعيل مفتاح الإيقاف، والتحميل المفاجئ، وإعادة تشغيل عقدة أثناء قرار قيد التنفيذ. من دون هذه الاختبارات، تبقى آليات التعافي افتراضات غير مثبتة.