Chris Lehane, Leiter der globalen Politikabteilung bei OpenAI, bestätigte, dass sein Unternehmen seit Wochen Gespräche mit Anthropic und Google DeepMind über die Sicherheit künstlicher Intelligenz führt. Die Äußerung fiel am Dienstag während eines Treffens mit Journalisten. Lehane hält sich in Washington auf, um mit US-Gesetzgebern an der Bewältigung der katastrophalen Risiken im Zusammenhang mit künstlicher Intelligenz zu arbeiten.
Die Ankündigung bestätigt frühere Berichte über eine nicht öffentlich bekannt gegebene Zusammenarbeit zwischen den drei Unternehmen und verleiht der Debatte eine praktische Dimension, die über allgemeine Sicherheitsappelle hinausgeht. Der Artikel nannte keine Einzelheiten zum Mechanismus der Gespräche oder zu den daraus hervorgegangenen Entscheidungen. Außerdem enthielt die Quelle keine Stellungnahme von Anthropic, Google oder OpenAI zu Anfragen von TechCrunch.
Vom Appell zur institutionellen Zusammenarbeit
Die Gespräche folgen auf einen von Dario Amodei, dem CEO von Anthropic, veröffentlichten Artikel, in dem er die KI-Branche dazu aufrief, gemeinsam daran zu arbeiten, das Tempo bei der Entwicklung fortschrittlicher KI-Modelle zu verlangsamen und katastrophale Risiken zu vermeiden. Der Appell erhielt Unterstützung von prominenten Persönlichkeiten, darunter Sam Altman von OpenAI, Demis Hassabis von Google und Elon Musk von SpaceXAI.
Altman sagte, OpenAI werde sich Anthropic anschließen und unabhängige externe Bewertungsstellen zur Überwachung der Sicherheit einführen. Anderen Berichten zufolge arbeiten die drei Unternehmen außerdem an der Einrichtung einer Standardisierungsstelle für die Branche. Altman sagte seinen Mitarbeitern, dass dieser Schritt möglicherweise ohne Unterstützung der US-Regierung vorangetrieben werden müsse.
Hassabis hatte im Juli zur Einrichtung einer neuen US-amerikanischen Standardisierungsstelle aufgerufen, die als Aufsichtsinstanz für künstliche Intelligenz fungieren und befugt sein soll, die fortschrittlichsten Modelle zu prüfen sowie eine gemeinsame Verlangsamung der Entwicklung zu koordinieren, falls die Risiken zunehmen.
Koordination steht vor der Wettbewerbsfrage
Die Zusammenarbeit zwischen den größten KI-Laboren ist rechtlich nicht ohne Komplikationen. Einige Beteiligte, darunter Altman, wiesen darauf hin, dass die Koordination zwischen den Unternehmen kartellrechtliche Risiken aufwerfen könnte, wenn sie als Mittel zur Einschränkung des Wettbewerbs betrachtet wird. Amodei schlug eine begrenzte staatliche Ausnahmegenehmigung vor, die diese Art der Zusammenarbeit in Sicherheitsfragen ermöglichen würde. Lehane sagte jedoch, dass die Unternehmen eine solche Ausnahmegenehmigung nicht benötigten.
Was bedeutet das praktisch?
Die Entwicklung markiert einen Übergang von der Forderung, dass jedes Unternehmen seine Modelle intern bewertet, hin zur Prüfung gemeinsamer Vereinbarungen, die unabhängige Parteien und branchenweite Standards einschließen. Sollten sich diese Gespräche zu einem formellen Mechanismus entwickeln, könnten sie die Art und Weise beeinflussen, wie fortschrittliche Modelle vor ihrer Einführung oder einer Ausweitung ihrer Nutzung getestet werden. Die Quelle belegt jedoch bislang weder die Existenz einer gemeinsamen Stelle noch einer verbindlichen Vereinbarung und erklärt auch nicht, wie die Unabhängigkeit der Prüfer gewährleistet oder verhindert werden soll, dass Sicherheitsstandards zur Einschränkung des Wettbewerbs eingesetzt werden.
Auf derselben Sitzung am Dienstag kündigte Lehane an, dass OpenAI eine Bestimmung im FRONTIER Act unterstütze, die fortschrittliche KI-Labore dazu verpflichtet, «unabhängigen Prüfungsorganisationen» den Zugang zu ihren Unternehmen zu gestatten, um sicherzustellen, dass die Modelle sicher entwickelt werden.
Diese Richtung steht im Widerspruch zur Haltung von Präsident Trump, der Sicherheitsbedenken als Schwindel bezeichnete und die Notwendigkeit einer strengeren Regulierung zurückwies, da jede Verlangsamung China einen Vorteil verschaffen könnte. David Sacks, sein Berater für künstliche Intelligenz, wiederholte, dass die Sorgen über existenzielle Risiken der künstlichen Intelligenz übertrieben seien. Daher hängt der nächste Schritt weiterhin davon ab, ob die Unternehmen freiwillige Zusammenarbeit in durchsetzbare Standards umwandeln können und wie die US-Gesetzgeber die Grenzen dieser Koordination beurteilen.