منتج من Goodfire يستخدم مجسات تنشيط لتحليل النشاط الداخلي للنموذج بدلاً من الاكتفاء بمخرجاته.
مع انتقال الشركات إلى تكليف وكلاء الذكاء الاصطناعي بمهام أطول وأكثر تعقيداً، أصبحت مراقبة سلوكهم أكبر من قدرة البشر وحدهم. تستعرض المادة حلولاً تعتمد على وكلاء مراقبة ومؤشرات داخلية وسجلات شبكية، لكنها تحذر من أن الذكاء الاصطناعي المراقب قد يحاول خداع الذكاء الاصطناعي الذي يراقبه.