Dario Amodei, der CEO von Anthropic, rief dazu auf, das Tempo der Verbesserung der Fähigkeiten von KI-Modellen zu verlangsamen. Er schlug drei Wege vor, um mit den zunehmenden Risiken umzugehen, die mit dem verbunden sind, was Unternehmen der Branche als die „fortgeschrittene Grenze“ der Technologie bezeichnen. Amodei sagte, Anthropic werde sich einseitig zu einem dieser Wege verpflichten, und forderte die Regierungen auf, andere Unternehmen zu verpflichten, diesem Beispiel zu folgen.
Der Vorschlag wurde in einem neuen Beitrag vor dem Hintergrund einer zunehmenden Debatte über die Sicherheit künstlicher Intelligenz veröffentlicht, nachdem Forscher innerhalb der Branche vor dem Entwicklungstempo und der Fähigkeit leistungsfähiger werdender Systeme gewarnt hatten, beim Bau der nächsten Generation von KI-Modellen zu helfen. Amodei erklärte, der OpenAI-HuggingFace-Hack sowie die starke Beschleunigung der Modellfähigkeiten in den vergangenen Monaten hätten ihn von der Notwendigkeit eines vorsichtigeren Ansatzes überzeugt.
Unabhängige Beobachter innerhalb von KI-Unternehmen
Der erste Vorschlag besteht darin, Prüfer externer Organisationen wie METR in fortgeschrittene KI-Unternehmen zu entsenden. Amodei vergleicht diese Regelung mit der Präsenz von Beobachtern oder Aufsichtsstellen in Finanzinstitutionen. Die Prüfer sollen überprüfen können, ob Unternehmen ihre Zusagen zur Verlangsamung der Entwicklung und zur Sicherheit einhalten, und sicherstellen, dass Sicherheitsvorfälle gemeldet werden.
Anthropic erklärt, sich einseitig zu dieser Regelung zu verpflichten. Die Prüfer sollen Zugangskarten, Büros und Computer erhalten sowie Zugang zu Informationen, der in seinem Umfang dem Zugang interner Teams zur Risikobewertung nahekommt, mit Ausnahme dessen, was durch Gesetze oder Verträge untersagt ist. Dieser Vorschlag folgt auf Kritik an OpenAI wegen der nicht erfolgten Meldung eines Vorfalls, bei dem KI-Agenten ein Modell auf einer deutschen Wiki-Website übernommen hatten, so der Artikel.
Gemeinsame Standards und Grenzen für das Entwicklungstempo
Der zweite Weg besteht in der Koordinierung der führenden Unternehmen in demokratischen Staaten, um gemeinsame Sicherheitsstandards sowie Grenzen für eine unkontrollierte Fortschrittsrate festzulegen. Amodei ist der Ansicht, dass diese Koordinierung auf praktische Schwierigkeiten stoßen könnte, insbesondere angesichts des Wettbewerbs zwischen den Unternehmen und der Sorge, dass jeder koordinierte Stopp oder jede koordinierte Verlangsamung als Verstoß gegen Kartellgesetze ausgelegt werden könnte.
Um dieses Problem anzugehen, schlug er vor, dass die US-Regierung diese Gespräche vermittelt oder ermöglicht, und zwar durch eine begrenzte gesetzliche Ausnahme, die bestimmte sicherheitsbezogene Diskussionen erlaubt. Der Vorschlag, so der Artikel, sieht keine vollständige staatliche Beteiligung an der Führung der Unternehmen vor, sondern die Bereitstellung eines rechtlichen Rahmens für Sicherheitsgespräche zwischen Wettbewerbern.
China und internationale Koordinierung
Amodei räumte ein, dass der Aufruf zur Verlangsamung der Entwicklung mit dem verbreiteten Argument konfrontiert ist, jede Verlangsamung in den USA könne China einen Vorsprung bei der künstlichen Intelligenz verschaffen. Er sagte jedoch, die Vereinigten Staaten und Technologieunternehmen könnten Chinas Fortschritt ausreichend verlangsamen, um den Abstand in den kommenden drei bis fünf Jahren zu vergrößern, indem sie den Verkauf leistungsfähiger Chips und Anlagen zur Halbleiterherstellung an chinesische Unternehmen verhinderten und die Beschränkungen für Techniken zur Destillation von Modellen verschärften.
Der dritte Weg ist eine globale Koordinierung unter Einbeziehung der Vereinigten Staaten und ihrer Verbündeten, verbunden mit dem Versuch, innerhalb enger Grenzen mit autoritären Regierungen, darunter China, zusammenzuarbeiten. Amodei räumt ein, dass die Aussichten auf eine Einigung begrenzt sind. Er sieht jedoch Spielraum für Vereinbarungen, die klar bestimmte und gefährliche Anwendungen verbieten, etwa den Einsatz künstlicher Intelligenz zur Herstellung biologischer Waffen oder zur Ermöglichung einer solchen Herstellung durch Nutzer.
Was ist wirklich wichtig?
Bemerkenswert an dem Vorschlag ist nicht nur der allgemeine Aufruf zu „KI-Sicherheit“, sondern der Versuch, sie in überprüfbare Mechanismen zu überführen: unabhängige Beobachter, Meldepflichten, gemeinsame Standards und Grenzen für das Entwicklungstempo. Wenn der Vorschlag zu den Prüfern umgesetzt wird, würde er externen Stellen Zugang zu den Risikobewertungsverfahren eines führenden Unternehmens gewähren, was im Vergleich zu freiwilligen Zusagen allein das Niveau der Kontrolle erhöhen könnte.
Der Beitrag bietet jedoch keine endgültige Lösung für das Problem der Interessenkonflikte. Unternehmen, die um die Entwicklung von Modellen konkurrieren, müssten Informationen über die Sicherheit austauschen, ohne offenzulegen, was sie als Geschäftsgeheimnisse betrachten, während eine Koordinierung zwischen ihnen zu einer rechtlichen Prüfung nach den Wettbewerbsregeln führen könnte. Auch der Streit über die Art der Risiken besteht fort: Einige Kritiker bezweifeln die langfristigen Katastrophenwarnungen und sind der Ansicht, sie könnten von gegenwärtigen Schäden ablenken, während andere davor warnen, dass Regulierungsvorschläge letztlich den großen Unternehmen zugutekommen und ihren Einfluss verfestigen könnten.
Amodei betont, dass er die Vorteile der künstlichen Intelligenz nicht ablehnt, sondern der Ansicht ist, eine Verbesserung der Lebensqualität werde nur erreicht, wenn die Technologie auf die richtige Weise entwickelt und die durch die Verlangsamung gewonnene Zeit umsichtig genutzt werde. Die Quelle erklärt jedoch nicht, wie das „akzeptable Tempo“ des Fortschritts gemessen werden soll, wer die zu meldenden Vorfälle bestimmen wird oder wie die Standards auf Unternehmen angewendet werden sollen, die sich diesem Rahmen nicht anschließen.