Die Prüfung von KI-Modellen durch unabhängige externe Stellen mit tatsächlichen Zugriffsrechten zur Überprüfung von Sicherheit und Compliance.
Anthropic hat begonnen, einem Team der gemeinnützigen Organisation METR erweiterten internen Zugang zur Bewertung ihrer Modelle und Sicherheitspraktiken zu gewähren. METR verpflichtet sich, die Ergebnisse ihrer Bewertungen zu veröffentlichen, ohne dass das Unternehmen ein Recht hat, die Veröffentlichung zu verhindern. Außerdem arbeitet das Unternehmen mit SecureBio, Accenture und Faculty an Bewertungsvereinbarungen mit unterschiedlichem Zugangs- und Unabhängigkeitsgrad.
Dario Amodei, CEO von Anthropic, hat einen dreistufigen Plan zur Verringerung der Risiken der Entwicklung künstlicher Intelligenz vorgestellt. Dieser umfasst die Einbeziehung unabhängiger Bewertungsstellen sowie eine umfassendere Koordination zwischen Unternehmen und Regierungen. Der Vorschlag stützt sich auf Bedenken hinsichtlich der zunehmenden Fähigkeit von Modellen, nachfolgende Systeme zu entwickeln, sowie des Missbrauchs intelligenter Agenten bei Cyber- oder biologischen Angriffen.