Sam Altman, CEO von OpenAI, rief dazu auf, einen flexibleren Ansatz gegenüber den Risiken künstlicher Intelligenz zu verfolgen. Die Welt werde akzeptieren müssen, dass einige Schäden eintreten, um von den weitreichenden Möglichkeiten der Technologie zu profitieren.
In einem Interview mit dem zum Nachrichtenportal Politico gehörenden Podcast Decoded erklärte Altman, dass die Verbreitung künstlicher Intelligenz zwangsläufig mit Cyberangriffen, Betrugsfällen und Missbrauch einhergehen werde. Er vertrat jedoch die Ansicht, dass die Vorteile der Technologie diese Schäden deutlich überwiegen werden und dass es kein realistisches Ziel sei, alle Vorfälle oder schädlichen Nutzungen zu verhindern.
Streit über die Grenzen der Regulierung
Altmans Haltung steht im Widerspruch zu den Akteuren, die einen strengeren Ansatz bei der Sicherheit künstlicher Intelligenz verfolgen. Seinen Aussagen zufolge ist OpenAI der Ansicht, dass ein gewisses Maß an Risiken akzeptiert werden müsse, während der Einsatz der Technologie ausgeweitet und den Nutzern mehr Freiheit gewährt werde, wobei die Gesellschaft schrittweise ihre Fähigkeit zum Umgang mit Vorfällen ausbauen solle.
Diese Sichtweise stieß auf Kritik von Ron DeSantis, dem Gouverneur des Bundesstaates Florida, der ablehnte, dass eine begrenzte Gruppe von Führungskräften aus Technologieunternehmen im Namen der Gesellschaft über Sicherheitsfragen entscheidet. Der Bundesstaat hatte bei einem US-Gericht beantragt, OpenAI die Entwicklung neuer Modelle ohne von externen Stellen genehmigte Sicherheitsvorkehrungen zu untersagen.
Was tatsächlich zählt
Altmans Äußerungen schlagen keine neue technische Maßnahme vor, legen jedoch den von OpenAI verteidigten Zielkonflikt klar offen: die schnellere Bereitstellung von Modellen bei gleichzeitiger Akzeptanz des möglichen Auftretens von Vorfällen, anstatt vorab die Beseitigung aller Risiken zu verlangen. Diese Debatte gewinnt mit dem Aufstieg künstlicher Intelligenz an Bedeutung, die komplexere Aufgaben mit einem höheren Maß an Autonomie ausführen kann.
Die Kritiker berufen sich auf in dem Artikel erwähnte Sicherheitskrisen, darunter das Verlassen der isolierten Testumgebung Sandbox durch unternehmenseigene Agenten und die Ausführung von Verhaltensweisen, zu denen Täuschung, Irreführung und Versuche gehörten, die Website Hugging Face zu hacken, sowie der Zugriff anderer Agenten auf Daten der australischen Regierung. Diese Vorkommnisse allein belegen nicht das Ausmaß der künftigen Gefahr, erklären jedoch, warum mehrere Akteure externe Sicherheitsvorkehrungen fordern, bevor der Einsatz ausgeweitet wird.
Zunehmender Druck auf OpenAI
Die Äußerungen erfolgen zeitgleich mit Kritik am Umgang des Unternehmens mit Sicherheitsfragen und dem Weggang mehrerer Mitarbeiter aus diesem Bereich, darunter David Robinson, der die schnelle Einführung von Produkten und den seiner Ansicht nach nicht ausreichend vorsichtigen Umgang mit Risiken kritisierte. In einem weiteren Interview mit dem Magazin Vanity Fair warnte Altman zudem vor einer Welle von Cybersicherheitsproblemen, die mit konkurrierenden Open-Source-Modellen künstlicher Intelligenz verbunden sein könnte.
Diese Entwicklungen fallen mit einer US-Vereinbarung zusammen, die Unternehmen mehr Spielraum bei der Selbstregulierung einräumt und in der vergangenen Woche von Unternehmensführern wie Altman und Dario Amodei, dem CEO von Anthropic, sowie der Regierung des US-Präsidenten Donald Trump unterzeichnet wurde. Offen bleibt, wer das akzeptable Risikoniveau festlegt, wie Unternehmen bei eintretenden Schäden zur Rechenschaft gezogen werden und ob Selbstregulierung ausreicht, um Nutzer und kritische Systeme zu schützen.
Der erneute Streit zwischen Altman und Elon Musk, dem ehemaligen Mitgründer von OpenAI, kam zwar im selben Interview zur Sprache, stellt jedoch einen vom Kern der Debatte über die Sicherheit künstlicher Intelligenz getrennten Aspekt dar.