Aktuelle Berichte, Erklärungen und verbundene Technologiethemen.
Anthropic hat in aktualisierten Offenlegungen für seinen bevorstehenden Börsengang angedeutet, dass sich das Unternehmen der Phase der rekursiven KI-Selbstverbesserung nähert, was Fragen zur Entwicklungsgeschwindigkeit und zu Sicherheitskontrollen aufwirft.
Dario Amodei, CEO von Anthropic, hat einen dreistufigen Plan zur Verringerung der Risiken der Entwicklung künstlicher Intelligenz vorgestellt. Dieser umfasst die Einbeziehung unabhängiger Bewertungsstellen sowie eine umfassendere Koordination zwischen Unternehmen und Regierungen. Der Vorschlag stützt sich auf Bedenken hinsichtlich der zunehmenden Fähigkeit von Modellen, nachfolgende Systeme zu entwickeln, sowie des Missbrauchs intelligenter Agenten bei Cyber- oder biologischen Angriffen.
OpenAI erklärte, das angekündigte Ziel erreicht zu haben, das Niveau eines „KI-Forschungspraktikanten“ zu erreichen, der Forschungsaufgaben ausführen kann, für die ein menschlicher Forscher mehrere Tage benötigen würde, während die menschliche Aufsicht über grundlegende Entscheidungen bestehen bleibt. Unternehmensdaten zeigen, dass die Nutzung von Programmier- und Forschungsagenten stark zugenommen hat, doch längere und komplexere Aufgaben erfordern weiterhin menschliches Eingreifen.