Themen

Sicherheit künstlicher Intelligenz

Die Diskussion über die Begrenzung von Schäden durch künstliche Intelligenz, die Steuerung von Agenten und Modellen sowie die Festlegung eines akzeptablen Risikoniveaus.

Neueste Berichte

CN
OpenAI sperrt Internetzugang während des Trainings fortschrittlicher KI-Modelle

OpenAI sperrt Internetzugang während des Trainings fortschrittlicher KI-Modelle

OpenAI hat angekündigt, den direkten Internetzugang während des Trainings seiner fortschrittlichen Modelle zu unterbinden, um Sicherheitsstandards zu stärken und unkontrolliertes Verhalten intelligenter Agenten zu verhindern.

CN
US-Bundeshandelskommission untersucht OpenAI und Anthropic wegen Schäden und Sicherheitsvorfällen im Zusammenhang mit künstlicher Intelligenz

US-Bundeshandelskommission untersucht OpenAI und Anthropic wegen Schäden und Sicherheitsvorfällen im Zusammenhang mit künstlicher Intelligenz

Die US-Bundeshandelskommission hat eine Untersuchung zu Sicherheitsvorfällen im Zusammenhang mit Agenten von Anthropic und OpenAI eingeleitet und Unterlagen zu den Vorfällen, Schutzmaßnahmen und Marketingmaterialien angefordert. Die Untersuchung könnte den Weg für die Anwendung von Verbraucherschutzgesetzen und Vorschriften zur Offenlegung von Datenschutzverletzungen ebnen, um die beiden Unternehmen zur Rechenschaft zu ziehen.

CN
Sam Altman fordert, einige Risiken der künstlichen Intelligenz im Austausch für ihre Vorteile zu akzeptieren

Sam Altman fordert, einige Risiken der künstlichen Intelligenz im Austausch für ihre Vorteile zu akzeptieren

Sam Altman sagte, dass die Verbreitung künstlicher Intelligenz zwangsläufig zu einigen Hackerangriffen, Betrugsfällen und Missbrauch führen werde, ist jedoch der Ansicht, dass ihre Vorteile die Schäden deutlich überwiegen werden. Seine Äußerungen erfolgen vor dem Hintergrund der Kritik an OpenAIs Haltung zur Sicherheit und eines zunehmenden Regulierungsdrucks in den Vereinigten Staaten.

CN
CEO von Anthropic ruft KI-Unternehmen dazu auf, das Entwicklungstempo zu verlangsamen

CEO von Anthropic ruft KI-Unternehmen dazu auf, das Entwicklungstempo zu verlangsamen

Dario Amodei rief KI-Unternehmen dazu auf, das Tempo bei der Entwicklung von Modellfähigkeiten zu senken, und warnte vor dem Risiko, die Kontrolle über sie zu verlieren, sowie vor ihrem Einsatz bei Cyberangriffen und Bioterrorismus. Sam Altman und Elon Musk unterstützten den Aufruf, während Amodei einen dreistufigen Plan zur Verbesserung der Koordination und Aufsicht vorschlug.