Anthropic gab am 18. September 2026 eine Partnerschaft mit Accenture zur unabhängigen Bewertung fortschrittlicher KI-Modelle bekannt. Ziel ist es, unabhängige Prüfer in das modellentwickelnde Unternehmen zu integrieren, statt sich ausschließlich auf externe Prüfungen nach deren Abschluss zu beschränken. Die gemeinsame Arbeit wird von Faculty, der spezialisierten KI-Einheit von Accenture, geleitet.
Der Umfang der Partnerschaft umfasst die Bewertung und Prüfung von Modellen mit Methoden offensiver Simulationen, die Durchführung von Alignment-Bewertungen sowie die Untersuchung von Schutzmaßnahmen. Anthropic erklärte, die Erfahrung von Accenture mit der Einführung von KI in Unternehmen und Regierungen sowie in verschiedenen Branchen werde eine praktische Perspektive in die Bewertung der Sicherheit und Nutzung von Modellen einbringen.
Beide Seiten erwarten, in den kommenden fünf Jahren jeweils mindestens eine Milliarde US-Dollar in den Aufbau von Kapazitäten in diesem Bereich zu investieren. Das Unternehmen machte in der Ankündigung keine Angaben zum Ausgabenplan oder zu den Mechanismen zur Messung dieser Investitionen.
Was bedeutet die eingebettete Bewertung?
Unter einer eingebetteten Bewertung versteht man, dass unabhängige Prüfer innerhalb des KI-Unternehmens mit einem Zugangslevel arbeiten, das dem von Mitarbeitern nahekommt. Dadurch können sie Modelle während des Trainings verfolgen, Entscheidungen überprüfen, die deren Entwicklung und Einsatz beeinflussen, und direkt mit den daran arbeitenden Personen sprechen. Anthropic zufolge kann diese Position den Prüfern dabei helfen, die Einhaltung der Sicherheitszusagen des Unternehmens zu überprüfen, Schwachstellen zu erkennen, Vorfälle zu melden und der Öffentlichkeit ein besser informiertes Bild der Vorteile und Risiken zu vermitteln.
Anthropic betont, dass die Anwesenheit unabhängiger Prüfer die Verantwortung für die Sicherheit weder auf andere überträgt noch ihre Rechenschaftspflicht verringert; die Sicherheit ihrer Modelle bleibt ihre unmittelbare Verantwortung. Der praktische Wert der Initiative besteht darin, diese Verantwortung durch unabhängigen Zugang zu den Entwicklungsphasen und internen Entscheidungen besser überprüfbar zu machen.
Noch offene Lücken
Bislang gibt es keine vereinbarten Standards dafür, welche Informationen eingebettete Prüfer erhalten sollten oder auf welche Weise sie ihre Ergebnisse vorlegen. Ebenso fehlt ein stabiles System zur langfristigen Finanzierung unabhängiger Bewertungen. Anthropic ist der Ansicht, dass die Finanzierung künftig aus gebündelten oder staatlichen Quellen kommen sollte, wird die Arbeit von Accenture in der gegenwärtigen Phase jedoch direkt finanzieren, da diese Alternativen nicht verfügbar sind.
Das Unternehmen führt außerdem Gespräche mit METR und weiteren gemeinnützigen Organisationen, um Elemente der eingebetteten Bewertung mit eigener Finanzierung zu erproben. Zudem gab es bekannt, dass die Partnerschaft mit Accenture nicht exklusiv ist und dass es mit weiteren Prüfern zusammenarbeiten wird, die in den kommenden Wochen angekündigt werden sollen, während Accenture seinerseits mit anderen KI-Entwicklern zusammenarbeiten wird.
Die Einschätzung von certi.news
Die Bedeutung der Ankündigung liegt darin, dass sie die Diskussion über die Sicherheit von Modellen von getrennten Bewertungsberichten auf die Überwachung des Entwicklungsprozesses selbst verlagert. Dies könnte den Prüfern bessere Möglichkeiten geben, Entscheidungen und frühe Risiken zu erkennen, wirft zugleich jedoch entscheidende Fragen zur Unabhängigkeit des Prüfers, zu den Grenzen seines Zugangs, zum Schutz von Informationen und zur Veröffentlichung der Ergebnisse auf. Da Anthropic einräumt, dass es keine stabilen Standards oder kein stabiles Finanzierungsmodell gibt, stellt die Partnerschaft eher ein wichtiges Gründungsexperiment als einen endgültigen Governance-Rahmen dar.