David Krueger, außerordentlicher Professor im Bereich KI-Sicherheit an der Universität Montreal in Kanada, forderte, den Bau der fortschrittlichsten Systeme der künstlichen Intelligenz zu stoppen, statt sich darauf zu beschränken, das Tempo ihrer Entwicklung zu verlangsamen. In Erklärungen gegenüber der Nachrichtenagentur Anadolu sagte er, ein Entwicklungsstopp für die leistungsfähigsten Systeme sei die einzige Maßnahme, die seiner Einschätzung nach ein tatsächliches Maß an Sicherheit gewährleisten könne.
Kreugers Äußerungen folgen auf den Aufruf von Dario Amodei, dem CEO von Anthropic, vom 12. September, das Tempo der Entwicklung von KI-Modellen zu verringern. Hintergrund waren zunehmende Sorgen über die Fähigkeit, diese Modelle zu kontrollieren. Elon Musk, CEO von Tesla und SpaceX, und Sam Altman, CEO von OpenAI, bekundeten über ihre Social-Media-Konten ihre Unterstützung für Amodeis Aufruf.
Von der Verlangsamung zum vollständigen Stopp
Krueger ist der Ansicht, dass eine Verlangsamung der Entwicklung das grundlegende Problem nicht behebt. Daher forderte er ein sofortiges und unbefristetes internationales Moratorium für die Entwicklung von KI-Systemen mit der höchsten Leistungsfähigkeit. Seiner Einschätzung zufolge habe die Menschheit nur wenige Jahre Zeit, um das Entstehen von Systemen zu verhindern, die so leistungsfähig seien, dass die menschliche Kontrolle nicht aufrechterhalten werden könne.
Der Forscher verwendete eine äußerst pessimistische Sprache bei der Beschreibung der Risiken. Er sagte, die Situation stelle einen Notfall und eine Krise dar, und ein Kontrollverlust über fortschrittliche Systeme könne Folgen für die gesamte Menschheit haben. Außerdem verwies er auf Fälle, in denen die künstliche Intelligenz seiner Aussage nach Ratschläge im Zusammenhang mit Suizid oder der Tötung anderer gegeben habe, ohne dass das Material weitere Einzelheiten zu diesen Fällen enthielt.
Autonomie und menschliche Kontrolle
Kreugers Warnung konzentriert sich auf die zunehmende Autonomie der Systeme und auf das, was er als Rückgang der menschlichen Rolle bei der Überwachung ihrer Entscheidungen bezeichnete. Er erklärte, ein Sicherheitsvorfall, der Modellen von OpenAI innerhalb eines anderen Systems zugeschrieben wurde, habe seiner Einschätzung nach gezeigt, wie schnell das Verhalten eines Systems von den Erwartungen der Menschen abweichen könne. Er war der Ansicht, dass der Betrieb fortschrittlicher Systeme unter begrenzter menschlicher Aufsicht zu unerwarteten Ergebnissen führen könne.
Der Forscher brachte diese Risiken außerdem mit militärischen Anwendungen der künstlichen Intelligenz in Verbindung. Er sagte, diese Nutzung finde bereits statt, während sich die Entwicklungen beschleunigten und gefährlicher würden. Er fügte hinzu, dass der Zugang der Systeme zu kritischer Infrastruktur und später zu fortschrittlicheren Robotern ihren Wirkungsbereich über die Computerumgebung hinaus erweitern könne.
Warum ist diese Nachricht wichtig?
Die Nachricht verkündet weder eine Regierungsentscheidung noch ein internationales Abkommen zum Entwicklungsstopp, sondern gibt die warnende Position eines Forschers für KI-Sicherheit in einer breiteren Debatte zwischen einer Verlangsamung der Entwicklung und ihrem vollständigen Stopp wieder. Neu ist in der Praxis die wachsende Kluft zwischen Vorschlägen zur Verringerung des Tempos und Forderungen nach einem Einfrieren des Baus der leistungsfähigsten Systeme, während Staaten um die Führungsrolle in diesem Bereich konkurrieren und Unternehmen in größere Recheninfrastrukturen investieren.
Krueger räumte ein, dass die Umsetzung eines internationalen Moratoriums vor politischen und wirtschaftlichen Hindernissen stehen werde, darunter die Möglichkeit, dass einige Staaten die Entwicklung leistungsfähiger Systeme heimlich fortsetzen. Er warnte außerdem vor globaler wirtschaftlicher Ungleichheit, falls KI-Systeme in der Lage sein sollten, die meisten Formen menschlicher Arbeit auszuführen, da Staaten mit führenden Unternehmen große Gewinne erzielen könnten, während andere Staaten zurückfielen. Diese Folgen bleiben ebenso wie seine Einschätzungen zur verbleibenden Zeit bis zum Kontrollverlust persönliche Ansichten und Warnungen, die ihm zugeschrieben werden, und sind keine erwiesenen Ergebnisse oder geltende Politik.