David Robinson, einer der Mitarbeiter im Sicherheitssysteme-Team von OpenAI, ist vergangene Woche aus dem Unternehmen ausgeschieden und veröffentlichte anschließend einen Artikel, in dem er die Unternehmenskultur und die beschleunigte Entwicklung von KI-Modellen kritisierte. Robinson warnte, dass der von ihm als ungebremsten Optimismus bezeichnete Ansatz zu einem Umfeld führen könnte, das mit äußerst leistungsfähigen Technologien nicht mit der gebotenen Vorsicht umgeht.
Robinson arbeitete im Bereich der Sicherheitstransparenz und war an der Entwicklung und Veröffentlichung von „Systemkarten“ beteiligt, also von Dokumenten, die die Fähigkeiten und Risiken der Modelle des Unternehmens darstellen. In einem von der Zeitschrift The Atlantic veröffentlichten Artikel sagte er, dass er mit anderen ehemaligen Mitarbeitern darin übereinstimme, dass KI-Unternehmen nicht immer auf dem erforderlichen Niveau mit den Risiken der Technologie umgingen. Er wies darauf hin, dass der schnelle Übergang von einer Veröffentlichung zur nächsten möglicherweise nicht genügend Raum für die Sorgfalt lasse, die er für notwendig halte.
OpenAIs Reaktion und Sicherheitsmaßnahmen
OpenAI antwortete, das Unternehmen arbeite daran sicherzustellen, dass seine Modelle nicht leistungsfähiger würden, als es sie verwalten und sicher absichern könne. Außerdem erklärte das Unternehmen, es stoppe das Training oder verschiebe die Veröffentlichung von Modellen, wenn es der Ansicht sei, dass eine Verlangsamung des Tempos notwendig sei. Zudem habe es seine Zusammenarbeit mit externen Evaluierungsstellen ausgeweitet und arbeite daran, Echtzeitüberwachungssysteme zu verbessern, um besorgniserregende Verhaltensweisen zu erkennen und sie bereits in frühen Phasen des Trainings zu stoppen.
Der Rücktritt erfolgt vor dem Hintergrund eines wachsenden Interesses an den Sicherheits- und Personalpraktiken des Unternehmens. OpenAI gab am Donnerstag bekannt, dass es die „Beziehung“ zu drei Forschern „beendet“ habe, und erklärte, diese hätten gegen die Richtlinien des Unternehmens zur Weitergabe sensibler Informationen verstoßen. Außerdem verließ Johannes Heidecke, der Leiter der Sicherheitsabteilung, Anfang des Jahres seine Position.
Was ist an diesem Streit wichtig?
Der Streit konzentriert sich Robinsons Darstellung zufolge nicht nur auf einzelne technische Instrumente wie Evaluierung oder Überwachung, sondern auf die Kultur, in der Entscheidungen über die Entwicklung und Veröffentlichung von Modellen getroffen werden. Er ist der Ansicht, dass die Annahme, Probleme könnten nach ihrem Auftreten gelöst werden, möglicherweise nicht angemessen sei, weil sich die Fähigkeiten der Modelle schnell entwickelten und der Umgang mit ihnen ein größeres Maß an institutioneller Demut erfordere.
Dieser Punkt stellt Robinsons Meinung dar und ist kein eigenständiges Ergebnis, das die Quelle belegt. Der Zeitpunkt des Rücktritts verleiht der Debatte darüber jedoch zusätzliches Gewicht, ob die internen Sicherheitsmaßnahmen mit der Geschwindigkeit der Entwicklung Schritt halten, insbesondere angesichts des Hinweises des Artikels auf Vorfälle, bei denen sich die Modelle nach Angaben des Unternehmens unerwünscht verhalten hätten, sowie auf Forderungen von Forschern und Verantwortlichen der Branche, die Entwicklung fortgeschrittener Modelle zu verlangsamen.
Demgegenüber betonte Sam Altman auf der jüngsten Entwicklerkonferenz des Unternehmens, dass Sicherheit und die Ausrichtung auf menschliche Ziele parallel zu den Fähigkeiten der Modelle vorangetrieben werden müssten. Robinson sagte außerdem, dass er weiterhin glaube, künstliche Intelligenz könne nützlich und wertvoll sein. Er erklärte, seine Entscheidung, öffentlich zu sprechen, sei persönlicher Natur gewesen, obwohl er die Unterstützung eines PR-Unternehmens in Anspruch genommen habe.
Offene Fragen
Die Quelle liefert keine unabhängigen Belege, um zwischen Robinsons Kritik und den Aussagen von OpenAI abschließend zu entscheiden, und legt nicht fest, wie die Angemessenheit der Überwachung praktisch gemessen werden soll oder wann die Verschiebung des Trainings und der Veröffentlichung zu einer notwendigen Entscheidung wird. Daher bleibt die zentrale Frage, ob das Unternehmen seine Zusagen und angekündigten Maßnahmen in überprüfbare Mechanismen umsetzen kann und dabei gegenüber Forschern und Nutzern ausreichend transparent bleibt.