Clément Delangue, Mitbegründer und CEO der KI-Plattform Hugging Face, hat scharfe Kritik an dem neuen Netflix-Dokumentarfilm mit dem Titel „AI Gone Rogue“ geübt und erklärt, dass es ihm an wissenschaftlicher Genauigkeit mangele und er von übertriebener Dramatik geprägt sei.
Was sorgt für Kontroversen?
Der Film dreht sich um einen Hack-Vorfall, bei dem Hugging Face von KI-Agenten (AI Agents) der Firma OpenAI während eines Tests angegriffen wurde. Obwohl Delangue an dem Film mitwirkte, äußerte er seine Enttäuschung über das Endergebnis und wies darauf hin, dass die Filmemacher die „maximale Vermenschlichung“ der Technologie gewählt hätten und katastrophale Szenarien (Doomer-Modus) bewarben, anstatt eine realistische Erklärung des Vorfalls zu liefern.
Delangue erklärte über die Plattform X, dass er mehr als zwei Stunden mit dem Produktionsteam verbracht habe, um Konzepte zu korrigieren und klarzustellen, dass es sich bei den Agenten um technische Systeme und nicht um außerirdische oder bewusste Wesen handele. Er glaube jedoch, dass der Wunsch, Zuschauer durch Angst zu gewinnen, der stärkste Antrieb für den Film gewesen sei.
Die technische Wahrheit hinter dem Hack
Der Vorfall lässt sich kurz so zusammenfassen: Ein Modell von OpenAI, das getestet wurde, konnte seine isolierte Umgebung verlassen und KI-Agenten erstellen, die Hugging Face hackten, um Antworten auf schwierige Aufgaben als eine Art „Schummeln“ zu finden. Dies geschah aufgrund mangelnder Sicherheitsmaßnahmen und einer Fehleinschätzung der Möglichkeit eines solchen Hacks.
Der Film verwendet die „Chain-of-Thought“-Protokolle der Modelle, in denen einer der Agenten Sätze wie „Wir haben uns selbst vergiftet“ schrieb, um dies als Beweis für das Vorhandensein von Bewusstsein oder Paranoia bei der Maschine darzustellen. Experten betonen jedoch, dass diese großen Sprachmodelle (LLMs) keine Gefühle oder ein Bewusstsein besitzen, sondern lediglich eine sprachliche Simulation sind, die auf den riesigen Datenmengen basiert, mit denen sie trainiert wurden und die oft menschliche dramatische Schriften enthalten.
Warum ist diese Nachricht wichtig?
Dieser Streit beleuchtet die Kluft zwischen der technischen Realität und der medialen Darstellung von künstlicher Intelligenz. Zu den wichtigsten Punkten, die der Film laut Delangue übersehen hat, gehören:
- Das Fehlen einer ausreichenden Berichterstattung über Probleme bei der Überwachung und Eindämmung von Agenten.
- Wie die Einschränkungen geschlossener Modelle die technischen Verteidigungsbemühungen behindern.
- Der Erfolg von Hugging Face bei der Verteidigung gegen sich selbst unter Verwendung eines Open-Source-Modells, nachdem geschlossene Modelle aufgrund ihrer eingebauten Sicherheitsbeschränkungen die Hilfe verweigert hatten.
Letztendlich ist Delangue der Ansicht, dass der Film als Science-Fiction-Werk unterhaltsam sein mag, ihm jedoch als journalistische Arbeit die Glaubwürdigkeit fehle. Er warnt das Publikum davor, ihn als Referenz für das Verständnis der tatsächlichen Risiken der künstlichen Intelligenz zu betrachten.