Goodfire Inside-Out Monitors

Goodfire bringt interne Überwachung zur Erkennung abweichenden Verhaltens von KI-Agenten auf den Markt

Goodfire hat ein Überwachungssystem vorgestellt, das die internen Signale des Modells ausliest, statt jede Ausgabe des Agenten von einem zweiten Modell erneut prüfen zu lassen. Nach Angaben des Unternehmens senkt das System die Kosten erheblich und erkennt Risiken wie Hacking sowie den Missbrauch biologischer und chemischer Waffen.