König Charles rief Führungskräfte von Unternehmen für künstliche Intelligenz und Regierungsvertreter dazu auf, ausreichende Möglichkeiten zur Kontrolle dieser Technologie zu finden, „bevor es zu spät ist“. Anlass war ein privater Gipfel, den er am Donnerstag, dem 17. September, im Dumfries House in der schottischen Grafschaft Ayrshire veranstaltete.
An dem Treffen nahmen Jensen Huang, der CEO von Nvidia, Führungskräfte von OpenAI und Anthropic sowie der neue britische Minister für künstliche Intelligenz, Kanishka Narayan, teil. Ebenfalls anwesend war der Leiter des britischen Auslandsgeheimdienstes. Außerdem nahm Paolo Benanti teil, der den Papst in Fragen der künstlichen Intelligenz berät. OpenAI entsandte die Finanzchefin Sarah Friar, während Anthropic durch den Leiter für globale Angelegenheiten, Tino Cuéllar, vertreten wurde.
Warnung vor Vorteilen und Risiken zugleich
Der König sagte, künstliche Intelligenz besitze ein großes Potenzial, das Leben zu verbessern und zu retten, insbesondere in der Medizin und den Wissenschaften. Gleichzeitig wies er darauf hin, dass die Entwickler dieser Technologien zunehmend davor warnten, dass sie „dunklere Fähigkeiten“ besitzen könnten, möglicherweise sogar die Fähigkeit, Leben zu nehmen.
Charles brachte diese Sorgen mit dem in Verbindung, was er als „existenzielle Gefahren“ bezeichnete, die daraus entstehen könnten, dass die Technologie in die falschen Hände gerät und auf möglicherweise katastrophale Weise eingesetzt wird. Außerdem bezeichnete er die rasante Entwicklung der künstlichen Intelligenz als „interessant und zutiefst beunruhigend“ und rief die Anwesenden dazu auf, sicherzustellen, dass die Technologie weiterhin dem Menschen, der Gesellschaft und der natürlichen Welt dient.
Den Berichten zufolge blieb der König nur etwa 20 Minuten und überließ es anschließend den Teilnehmern, die Diskussion untereinander fortzusetzen. Cuéllar sagte, Anthropic fühle sich durch die Teilnahme geehrt und dankte dem König dafür, Führungskräfte der Branche und Stimmen aus verschiedenen Teilen der Gesellschaft zusammengebracht zu haben, um über die Rolle der künstlichen Intelligenz im Dienste des Gemeinwohls zu sprechen.
Warum ist dieses Treffen wichtig?
Das Treffen stellt weder die Ankündigung einer neuen Regulierungspolitik noch ein verbindliches Abkommen dar. Es zeigt jedoch, dass die Debatte über die Risiken künstlicher Intelligenz in einen Raum übergeht, der Unternehmen zur Entwicklung von Modellen, Regierungen, Geheimdienste sowie religiöse und gesellschaftliche Persönlichkeiten zusammenbringt. Diese Schnittstelle gewinnt an Bedeutung, da der Streit darüber anhält, ob die Entwicklung fortschrittlicher Modelle verlangsamt oder in höherem Tempo fortgesetzt werden sollte.
Der Gipfel fand wenige Tage nach dem Rücktritt eines Forschers bei Anthropic statt, der öffentlich vor dem Wettlauf der Unternehmen zum Bau von Maschinen gewarnt hatte, die intelligenter als Menschen sind. Zuvor hatten Sam Altman, Elon Musk und Dario Amodei dazu aufgerufen, die Entwicklung zu verlangsamen. Jensen Huang und der US-Präsident Donald Trump wiesen diese Forderungen dagegen zurück. Trump sagte, die Vereinigten Staaten lägen bei künstlicher Intelligenz vor China, und wer in diesem Bereich gewinne, werde den umfassenderen Wettbewerb gewinnen.
Internationale Zusammenarbeit ohne Umsetzungsdetails
Charles rief außerdem zu internationaler Zusammenarbeit und zu einem Konsens darüber auf, wie künstliche Intelligenz auf den öffentlichen Nutzen ausgerichtet werden könne. Die Quelle nennt jedoch keine offiziellen Ergebnisse des Gipfels, keine konkreten Kontrollmechanismen und keinen Zeitplan dafür, diese Forderung in Politik umzusetzen. Auch die Debatte über die Souveränität im Bereich der künstlichen Intelligenz dauert an, insbesondere nachdem Anthropic den Zugang zu seinen beiden Modellen Fable und Mythos laut dem Beitrag auf Kunden in den Vereinigten Staaten beschränkt hat.
Einordnung von certi.news: Der tatsächliche Wert des Gipfels liegt in der Erweiterung des Kreises der Akteure, die über die Governance künstlicher Intelligenz diskutieren, und nicht in der Verabschiedung einer neuen Entscheidung. Er spiegelt einen deutlichen Konflikt zwischen Sicherheitsaspekten, geopolitischem Wettbewerb und den Interessen von Technologieunternehmen wider, während die zentrale Frage offenbleibt: Wer legt die Grenzen der Kontrolle fest, und wie können sie international umgesetzt werden, bevor die Entwicklungsgeschwindigkeit die Reaktionsfähigkeit der Institutionen übersteigt?