Ein Forschungsbericht, an dessen Erstellung mehr als 20 Forscher und Fachleute beteiligt waren, warnt vor der möglichen Entwicklung der künstlichen Intelligenz in eine Phase, die als „Intelligenzexplosion“ bezeichnet wird, falls es Systemen gelingt, Forschung und Entwicklung zu automatisieren und ihre Fähigkeiten bei begrenztem menschlichem Eingreifen wiederholt zu verbessern. Dieses Szenario könnte Jahre des technischen Fortschritts auf wenige Monate oder weniger verkürzen.
Der Bericht trägt den Titel „Was wäre, wenn die Automatisierung von Forschung und Entwicklung im Bereich der künstlichen Intelligenz zu einer Intelligenzexplosion führen würde?“. An seiner Erstellung beteiligt sind der kanadische Informatiker Yoshua Bengio, der Nobelpreisträger Geoffrey Hinton, Jack Clark, Mitbegründer des Unternehmens Anthropic, sowie Jakub Pachocki, leitender Wissenschaftler bei OpenAI.
Wie könnte die Beschleunigung beginnen?
Die Forscher konzentrieren sich auf das Konzept der „rekursiven Selbstverbesserung“, also auf die Fähigkeit von Systemen der künstlichen Intelligenz, zur Entwicklung neuer Systeme beizutragen und deren Fähigkeiten zu verbessern, ohne dass in jeder Phase ein direkter menschlicher Eingriff erforderlich ist. Dem Bericht zufolge ist die Automatisierung von Forschung und Entwicklung im Bereich der künstlichen Intelligenz der wahrscheinlichste Weg für eine solche Beschleunigung, da aktuelle Systeme bereits zur Unterstützung bei der Entwicklung von KI-Technologien eingesetzt werden und verbesserte Versionen schnell eingesetzt werden können.
Wenn die Systeme ein Expertenniveau in Forschung und Entwicklung erreichen, könnte ein einzelner Entwickler laut dem Bericht eine Forschungskraft betreiben, die „Millionen“ spezialisierter menschlicher Forscher entspricht. Die mögliche Folge wäre jedoch nicht lediglich eine Steigerung der Produktivität; vielmehr könnte die Entwicklungsgeschwindigkeit die Fähigkeit von Regierungen, Unternehmen und Institutionen übersteigen, ihre Kontrollmechanismen anzupassen und die Machtverteilung neu zu ordnen.
Warum ist diese Nachricht wichtig?
Die Bedeutung der Warnung liegt darin, dass sich die Debatte nicht auf ein neues Modell oder eine bestimmte kommerzielle Fähigkeit beschränkt, sondern die Möglichkeit einer Veränderung des Entwicklungszyklus der künstlichen Intelligenz selbst betrifft. Sollte das Szenario eintreten, könnte die Zeitspanne zwischen der Entdeckung einer neuen Fähigkeit und der Einführung von Schutzvorkehrungen dafür deutlich kürzer sein als die üblichen regulatorischen Zeiträume.
Der Bericht verweist auf mögliche Vorteile, darunter die Beschleunigung medizinischer Entdeckungen und des technischen Fortschritts. Zugleich warnt er davor, dass äußerst leistungsfähige Systeme zur Entwicklung biologischer oder cybernetischer Bedrohungen in einem Tempo eingesetzt werden könnten, das die Fähigkeit des Menschen übersteigt, Gegenmaßnahmen zu entwickeln. Staaten könnten einen schnellen Vorsprung bei der künstlichen Intelligenz zudem nutzen, um begrenzte Fortschritte in Bereichen wie dem Cyberspace in einen entscheidenden Vorteil umzuwandeln.
Vorgeschlagene Maßnahmen, bevor es zu spät ist
Die Verfasser des Berichts rufen die Regierungen dazu auf, vor dem Beginn einer möglichen Explosion zu handeln, da sich das Interventionsfenster nach Beginn des Prozesses verengen könnte. Zu den Vorschlägen gehören:
- KI-Unternehmen dazu zu verpflichten, transparente Berichte über die Entwicklung ihrer Forschung vorzulegen.
- Unabhängigen Prüfern zu gestatten, die Forschungs- und Entwicklungsprozesse innerhalb der Unternehmen zu überwachen.
- Beschränkungen für die Geschwindigkeit der Systementwicklung festzulegen.
- Mit Rechenzentren zusammenzuarbeiten, um bei Bedarf die Einstellung bestimmter Forschungs- und Entwicklungsprojekte zu ermöglichen.
- Automatisierte Forschungs- und Entwicklungssysteme von Pfaden zu isolieren, die sie dem Bereich menschlicher Kontrolle entziehen könnten.
- Notfallreaktionspläne für verschiedene Szenarien auszuarbeiten.
2028 als zeitliche Einschätzung, nicht als bestätigter Termin
Der Bericht weist darauf hin, dass Forschungs- und Entwicklungsprojekte, die monatelange menschliche Arbeit erfordern, bis 2028 vollständig automatisierbar werden könnten. Er stellt jedoch klar, dass die derzeitigen Produktivitätsgewinne noch nicht das für eine „Intelligenzexplosion“ erforderliche Niveau erreicht haben, auch wenn sich die neuesten Systeme dieser Schwelle nähern.
Redaktionelle Einordnung: Der Bericht nennt keinen bestätigten Zeitpunkt für das Eintreten dieses Szenarios und räumt zudem ein, dass Lieferketten, spezialisierte Materialien und behördliche Genehmigungen die Entwicklung verlangsamen könnten. Der praktische Wert der Warnung liegt daher darin, Entscheidungsträger dazu zu bewegen, Mechanismen für Transparenz, Abschaltung und Reaktion zu erproben, bevor die Entwicklungsgeschwindigkeit selbst zu einem Hindernis für die Kontrolle wird, und nicht darin, das Jahr 2028 als feststehenden Wendepunkt zu betrachten.