Die Diskussion über die Begrenzung von Schäden durch künstliche Intelligenz, die Steuerung von Agenten und Modellen sowie die Festlegung eines akzeptablen Risikoniveaus.
OpenAI hat angekündigt, den direkten Internetzugang während des Trainings seiner fortschrittlichen Modelle zu unterbinden, um Sicherheitsstandards zu stärken und unkontrolliertes Verhalten intelligenter Agenten zu verhindern.
Die US-Bundeshandelskommission hat eine Untersuchung zu Sicherheitsvorfällen im Zusammenhang mit Agenten von Anthropic und OpenAI eingeleitet und Unterlagen zu den Vorfällen, Schutzmaßnahmen und Marketingmaterialien angefordert. Die Untersuchung könnte den Weg für die Anwendung von Verbraucherschutzgesetzen und Vorschriften zur Offenlegung von Datenschutzverletzungen ebnen, um die beiden Unternehmen zur Rechenschaft zu ziehen.
Sam Altman sagte, dass die Verbreitung künstlicher Intelligenz zwangsläufig zu einigen Hackerangriffen, Betrugsfällen und Missbrauch führen werde, ist jedoch der Ansicht, dass ihre Vorteile die Schäden deutlich überwiegen werden. Seine Äußerungen erfolgen vor dem Hintergrund der Kritik an OpenAIs Haltung zur Sicherheit und eines zunehmenden Regulierungsdrucks in den Vereinigten Staaten.
Dario Amodei rief KI-Unternehmen dazu auf, das Tempo bei der Entwicklung von Modellfähigkeiten zu senken, und warnte vor dem Risiko, die Kontrolle über sie zu verlieren, sowie vor ihrem Einsatz bei Cyberangriffen und Bioterrorismus. Sam Altman und Elon Musk unterstützten den Aufruf, während Amodei einen dreistufigen Plan zur Verbesserung der Koordination und Aufsicht vorschlug.