مراقبة وكلاء الذكاء الاصطناعي أثناء التشغيل لرصد المخاطر واتخاذ إجراءات مثل التسجيل أو المراجعة البشرية أو رفض الطلب.
طرحت Goodfire نظام مراقبة يعتمد على قراءة الإشارات الداخلية للنموذج بدلاً من إعادة فحص كل مخرجات الوكيل بواسطة نموذج ثانٍ. وتقول الشركة إن النظام يخفض التكلفة بدرجة كبيرة مع رصد مخاطر مثل الاختراق وسوء استخدام الأسلحة البيولوجية والكيميائية.