أداة مراقبة وقت تشغيل لوكلاء الذكاء الاصطناعي تستخدم مسبارات لقراءة الإشارات الداخلية للنموذج ورصد السلوكيات الخطرة.
طرحت Goodfire نظام مراقبة يعتمد على قراءة الإشارات الداخلية للنموذج بدلاً من إعادة فحص كل مخرجات الوكيل بواسطة نموذج ثانٍ. وتقول الشركة إن النظام يخفض التكلفة بدرجة كبيرة مع رصد مخاطر مثل الاختراق وسوء استخدام الأسلحة البيولوجية والكيميائية.