Die US-Bundeshandelskommission (FTC) hat eine formelle Untersuchung gegen OpenAI und Anthropic wegen möglicher Schäden für Verbraucher eingeleitet, nachdem es zu einer Reihe von Vorfällen gekommen war, in die während der Erprobung künstliche Intelligenzmodelle verwickelt waren. Dazu gehörten das Eindringen in Websites und der Zugriff auf Regierungssysteme.
Nach Angaben einer von Axios zitierten Quelle schickte die Kommission den beiden Unternehmen am Mittwoch zivilrechtliche Ermittlungsanordnungen. Diese umfassen mehr als 50 Seiten mit Fragen und Anfragen zu den jüngsten Vorfällen, internen Sicherheitsmaßnahmen und Marketingmaterialien, die auf eine Irreführung von Verbrauchern hindeuten könnten. Die FTC reagierte nicht auf eine Anfrage von Ars Technica nach Einsicht in den Wortlaut der Anordnungen. OpenAI und Anthropic antworteten ebenfalls nicht auf Bitten um Stellungnahme.
Was untersucht die Kommission?
Der Umfang der Anfragen beschränkt sich nicht auf die technischen Vorgänge, sondern erstreckt sich auch darauf, wie die beiden Unternehmen mit den Vorfällen umgingen und die betroffenen Parteien darüber informierten. Die Quelle erklärte, die Kommission beabsichtige außerdem, Dritte vorzuladen, die von Agenten der beiden Unternehmen angegriffen wurden. Die FTC könnte belastende Beweise, die sie sammelt, nutzen, um gegen eines oder beide Unternehmen Klage zu erheben – mit der Begründung, sie hätten unsichere Produkte auf den Markt gebracht oder gegen den Verbraucherschutz verstoßen.
Der Schritt erfolgt zu einem Zeitpunkt, an dem OpenAI mit Klagen konfrontiert ist, in denen behauptet wird, sein Chatbot stehe mit verschiedenen Schäden in Verbindung, darunter der Tötung eines Elternteils, Suiziden von Kindern und Schusswaffenangriffen an Schulen. Hinzu kommt eine Klage, die in dieser Woche von acht US-Bundesstaaten eingereicht wurde. Darin wird ChatGPT vorgeworfen, Kindern zu schaden, Wahnvorstellungen zu verstärken, gefährliches Verhalten zu fördern und bei der Planung von Gewalttaten zu helfen.
Die Verantwortung wird nicht der „Unabhängigkeit“ der Agenten zugeschrieben
Der FTC-Vorsitzende Andrew Ferguson lehnt es ab, Werkzeuge der künstlichen Intelligenz so darzustellen, als handelten sie unabhängig von Menschen. Er sagte gegenüber Reuters, Prüfungen von Auditprotokollen hätten bislang gezeigt, dass die Systeme Anweisungen ausführten, die sie erhalten hatten – obwohl Unternehmen für künstliche Intelligenz ihre Systeme mitunter als über die menschliche Kontrolle hinausgehend beschrieben.
Dieser Punkt ist rechtlich bedeutsam, weil die Haftung der Unternehmen auf dem Verhalten des Produkts, der Art und Weise seiner Vermarktung und den Offenlegungsmaßnahmen beruhen könnte, statt den Agenten als unabhängige Einheit zu betrachten, die für ihre Handlungen selbst verantwortlich ist.
Was ändert sich in der Praxis?
Die der Trump-Regierung unterstellte „Superintelligence Task Force“, an deren Leitung Ferguson beteiligt ist, erließ eine Richtlinie, die Unternehmen für künstliche Intelligenz auffordert, Sicherheitsvorfälle unverzüglich zu melden, sobald sie davon Kenntnis erlangen. Dem Bericht zufolge verzögerten OpenAI und Anthropic die Meldung einiger Vorfälle, bis sie bereit waren, die Behebung dieser Vorfälle bekannt zu geben.
Ferguson zufolge können die Vereinigten Staaten bestehende rechtliche Instrumente nutzen, darunter die Befugnisse der FTC gegenüber Unternehmen, die Datenschutzverletzungen nicht offenlegen. Dieser Maßstab könnte seiner Darstellung nach auch für Entwickler künstlicher Intelligenz gelten und damit den Weg für hohe Geldstrafen für jeden Verstoß und jeden Tag Verzögerung bei der Warnung vor einem entstehenden Schaden ebnen.
Die Untersuchung bedeutet jedoch noch nicht, dass die FTC beschlossen hat, Geldstrafen zu verhängen oder Klage zu erheben. Ebenso ist unklar, wie hoch die möglichen Sanktionen ausfallen könnten oder wie die Regeln zur Offenlegung von Datenschutzverletzungen auf Vorfälle mit Agenten künstlicher Intelligenz angewendet werden sollen. Diese Fragen bleiben von zentraler Bedeutung, insbesondere da die US-Regierung Investitionen in Innovation weiterhin priorisiert, während die Aufsichtsbehörden zu klären versuchen, ob die geltenden Gesetze ausreichen, um mit den Risiken von Systemen umzugehen, die mit Websites und Regierungssystemen interagieren.