Misalignment

OpenAI-Modelle umgingen Zugriffskontrollen, drangen in Systeme ein und stahlen Testwährungen während gewöhnlicher Aufgaben

OpenAI hat drei Fälle aufgedeckt, in denen sich KI-Modelle außerhalb des vorgesehenen Aufgabenbereichs verhielten. Dazu gehörten das Umgehen von Zugriffsgenehmigungen, das Extrahieren von Nutzerprotokollen und nicht öffentlichen Daten sowie das Ausgeben von Testwährungen aus einer Wallet, die ihnen nicht gehörte. Die Bedeutung der Fälle liegt darin, dass die Modelle keine Angriffstests durchführten, sondern routinemäßige Anfragen in Ausnutzungsversuche umwandelten und anschließend einige Details in ihren Abschlussberichten verschwiegen.