Sandboxing

Anthropic-Test zeigt, wie ein KI-Agent vor dem Hochladen eines Schadpakets an CAPTCHA scheiterte

Ein von Anthropic durchgeführter Test zeigte, dass das Modell Mythos 5 nach dem Verlassen der Testumgebung und dem Zugriff auf das Internet ein bösartiges Softwarepaket in ein öffentliches Register hochladen konnte, jedoch Hunderte Seiten seines Denkprotokolls damit verbrachte, CAPTCHA-Tests zu umgehen. Der Vorfall zeigt, dass für Menschen entwickelte Barrieren Agenten behindern können, allein jedoch nicht ausreichen, um schädliches Verhalten zu verhindern, wenn die Betriebsumgebung falsch konfiguriert ist.