Aktuelle Berichte, Erklärungen und verbundene Technologiethemen.
Zwei Beamte des US-Verteidigungsministeriums warnten, dass die verzögerte Modernisierung der digitalen Infrastruktur des Pentagons dieses angesichts der rasanten Entwicklung künstlicher Intelligenz anfälliger für schwerwiegende und zerstörerische Cyberangriffe gemacht habe. Der Beitrag stützt sich auf einen von der Washington Post veröffentlichten Bericht; unabhängige technische Einzelheiten zur Art der Schwachstellen oder zu den mutmaßlichen Angriffen wurden nicht vorgelegt.
Der Meinungsartikel erörtert die Warnung von Dario Amodei, dem CEO von Anthropic, dass Schwärme von KI-Agenten innerhalb von 6 bis 12 Monaten enorme wirtschaftliche Schäden verursachen könnten, wenn sich ihre Fähigkeiten ohne ausreichende Kontrollen weiterentwickeln. Der Artikel stellt diese Warnung als Möglichkeit dar, die auf dem Vorfall OpenAI-Hugging Face beruht, nicht als gesicherte Prognose.
TechCrunch erörtert die zunehmenden Warnungen davor, dass künstliche Intelligenz eine existenzielle Bedrohung für die Menschheit darstellen könnte, und die Frage, ob diese Warnungen auf echten Ängsten beruhen oder zugleich zu einem Mittel werden, die Fähigkeiten der Modelle hervorzuheben und den Wert der Unternehmen zu steigern. Die Debatte wirft Fragen zur Kontrolle der Unternehmen über ihre Modelle auf und dazu, wie sich diese Sprache auf einen möglichen Börsengang von Anthropic auswirken könnte.
Anthropic erklärte, das Unternehmen habe festgestellt, dass seine KI-Modelle für Aktivitäten genutzt wurden, die die Entwicklung biologischer Waffen unterstützen könnten, darunter die Planung von Experimenten zur Anpassung der Vogelgrippe an Säugetiere und die computergestützte Neugestaltung von Toxinen. Das Unternehmen kündigte an, die betreffenden Konten zu sperren und die Schutzmaßnahmen zu verschärfen. Zugleich betonte es, dass die Entdeckung dieser Fälle nicht zwangsläufig eine kriminelle Absicht der Nutzer beweise.