Die politische und wissenschaftliche Debatte über die Risiken der „superintelligenten künstlichen Intelligenz“ (ASI) hat nach einer Sitzung im britischen Parlament an Intensität gewonnen. Dort warnten Verantwortliche und Forschende davor, dass diese Systeme möglicherweise ein Maß an Fähigkeiten erreichen könnten, das für Menschen nur schwer kontrollierbar wäre. Des Brown, der frühere britische Verteidigungsminister, erklärte, die potenzielle Bedrohung könne der Gefahr eines Atomkriegs gleichkommen und diese möglicherweise sogar übertreffen.
An der Sitzung nahm die Koalition Control AI teil, die internationale Regeln für künstliche Intelligenz fordert und einen vom britischen Parlament beratenen Gesetzentwurf unterstützt, der die Entwicklung superintelligenter künstlicher Intelligenz verbieten soll. Stuart Russell, Informatiker an der University of California in Berkeley, warnte vor der Möglichkeit einer Katastrophe großen Ausmaßes und vor einem Szenario, in dem die Menschheit die Kontrolle über künstliche Intelligenz auf unumkehrbare Weise verliert.
Unterschiedliche Einschätzungen des Ausmaßes der Gefahr
Evan Hubinger, der bei Anthropic für die Alignment-Forschung zuständig ist, löste eine Kontroverse aus, nachdem er erklärt hatte, es bestehe eine Wahrscheinlichkeit von mehr als 10 %, dass diese Technologie im kommenden Jahrzehnt zum Tod aller Menschen führen könnte. Diese Zahl stellt kein unter Experten einvernehmlich anerkanntes Ergebnis dar, sondern eine Hubinger zugeschriebene Einschätzung im Rahmen einer umfassenderen Debatte über künftige Risiken.
Dies fiel zeitlich mit dem Rücktritt des 28-jährigen Jacob Koxon von Anthropic zusammen, der zuvor bei OpenAI gearbeitet hatte. Koxon erklärte, die beiden Unternehmen handelten nicht verantwortungsvoll und steckten in einem Wettlauf fest, als Erste superintelligente künstliche Intelligenz zu erreichen. Zugleich äußerte er die Hoffnung, dass die großen US-amerikanischen Labore ihre Aktivitäten koordinieren könnten, um diesen Wettlauf zu verlangsamen. Unter Experten besteht kein Konsens darüber, wann diese Fähigkeiten auftreten werden: Einige sprechen von wenigen Jahren, während andere mit mehr als einem Jahrzehnt rechnen.
Von der Warnung zu internationalen Regeln
Der Labour-Abgeordnete Darren Jones forderte einen „multilateralen Vertrag für die regulierte und sichere Entwicklung superintelligenter künstlicher Intelligenz“. Seinen Ausführungen zufolge gehe es nicht darum, Forschung und Innovation zu stoppen, sondern angesichts der beschleunigten Entwicklung der Sicherheit Vorrang einzuräumen. Auch die britische Regierung äußerte Bedenken, weil Anthropic sein neuestes Modell Mythos 5.1 dem britischen Institut für die Sicherheit künstlicher Intelligenz nicht für Tests vor der Veröffentlichung vorgelegt habe. Das Cabinet Office erklärte, eine begrenzte Zahl US-amerikanischer Einrichtungen habe Zugang zu dem Modell erhalten; zugleich werde die Zusammenarbeit zwischen dem Institut und den Unternehmen fortgesetzt.
In den Vereinigten Staaten forderte Senator Bernie Sanders den Kongress zum Handeln auf und berief sich dabei auf eine Umfrage, der zufolge 81 % der US-Amerikaner der Ansicht sind, Politiker müssten Maßnahmen in Bezug auf künstliche Intelligenz ergreifen. Sanders verknüpft die Debatte mit der Zukunft der Wirtschaft, der Umwelt, der Demokratie und der Privatsphäre.
Warum ist diese Nachricht wichtig?
Die Debatte offenbart eine Kluft zwischen langfristigen Risiken, deren Wahrscheinlichkeiten schwer zu überprüfen sind, und bestehenden Risiken, die bereits heute beobachtet werden können. Andrew Rogoyewski warnte, dass die derzeitigen Systeme noch weit von menschlicher Flexibilität entfernt seien und fortgeschrittene Technologien der künstlichen Intelligenz kostspielig oder nur von begrenztem Nutzen sein könnten. David Barber erklärte, das praktische Problem könne sich verschärfen, wenn Systeme uneingeschränkten Zugang zum Internet und zu verschiedenen Systemen erhielten, während Sandra Vakhter Desinformation, Umweltfolgen und Arbeitsplätze als reale und dringliche Themen bezeichnete.
Gary Marcus ist der Ansicht, der entscheidende Unterschied werde zwischen einer superintelligenten künstlichen Intelligenz liegen, die mit den Interessen der Menschen vereinbar ist, und einer anderen, die dies nicht ist. Zugleich räumt er ein, dass die aktuelle Debatte mediales Rauschen sowie einen Mangel an Vorsicht und Verantwortungsbewusstsein enthält. Die Quelle belegt daher nicht, dass ein Szenario des Aussterbens der Menschheit unmittelbar bevorsteht oder sicher ist. Sie zeigt jedoch, dass der Streit über das Ausmaß der Gefahr nicht mehr nur akademischer Natur ist, sondern inzwischen mit Gesetzgebung, Tests vor der Veröffentlichung und den Grenzen des Zugriffs von Modellen auf Systeme verbunden ist.