Anthropic fordert Regierungen auf, ihre politischen Maßnahmen zu aktualisieren, um mit der Beschleunigung der Fähigkeiten künstlicher Intelligenz Schritt zu halten. Dazu legt das Unternehmen zwei Vorschläge vor, die sich mit der Governance fortschrittlicher Modelle sowie mit der Vorbereitung von Arbeitnehmern und Wirtschaft auf die Auswirkungen der Technologie befassen. Nach Ansicht des Unternehmens reicht Transparenz allein angesichts der Geschwindigkeit, mit der sich Modelle weiterentwickeln, nicht aus. Staatliche Stellen benötigten größere Befugnisse, um mit Einsätzen umgehen zu können, die katastrophale Risiken bergen könnten, wobei Schutzvorkehrungen gegen den Missbrauch dieser Befugnisse erforderlich seien.
Der erste Vorschlag besteht aus dem Rahmenwerk für fortschrittliche künstliche Intelligenz, das sich auf die leistungsfähigsten Modelle und die von ihnen ausgehenden Risiken konzentriert. Der zweite Vorschlag, das wirtschaftliche Rahmenwerk, befasst sich damit, wie Arbeitnehmer und Wirtschaft auf die Auswirkungen künstlicher Intelligenz vorbereitet und wie ihre finanziellen Vorteile breit verteilt werden können. Anthropic zufolge behandeln die beiden Rahmenwerke zwei Seiten derselben Herausforderung: die Technologie während ihrer Weiterentwicklung verantwortungsvoll zu lenken und sich auf die Veränderungen vorzubereiten, die sie für die Gesellschaft mit sich bringen wird.
Geltungsbereich der vorgeschlagenen Regeln
Das Rahmenwerk für fortschrittliche Modelle schlägt vor, die Regeln auf Modelle anzuwenden, die mit mehr als 1025 Gleitkommaoperationen trainiert wurden und von Unternehmen entwickelt werden, die mehr als 500 Millionen Dollar an KI-bezogenen Einnahmen erzielen oder mehr als eine Milliarde Dollar für Forschung und Entwicklung in diesem Bereich ausgeben. Anthropic zufolge zielt dieser Geltungsbereich auf Frontier-Modelle ab, statt allen KI-Systemen dieselben Anforderungen aufzuerlegen.
Das Unternehmen begründet den Bedarf an einer solchen Regulierung mit dem steilen Aufwärtstrend bei den Fähigkeiten von Modellen. Es erklärt, dass Modelle noch vor wenigen Jahren kaum in der Lage gewesen seien, Code zu schreiben, während das Modell Claude Mythos Preview laut Anthropic Tausende hochriskanter Software-Schwachstellen entdeckt habe, darunter Schwachstellen in jedem wichtigen Betriebssystem und Browser. Daraus schließt das Unternehmen, dass eine Fortsetzung dieses Trends die Risiken katastrophaler Schäden erhöhen könnte.
Vier Arten von Risiken
Das Rahmenwerk konzentriert sich auf vier zentrale Risikobereiche:
- Biologische Risiken: Ungeschützte Systeme könnten die Entwicklung biologischer Waffen einfacher und kostengünstiger machen, auch wenn dieselben Fähigkeiten die Arzneimittelforschung beschleunigen können.
- Cyberrisiken: Fortschrittliche KI-Modelle können kritische Schwachstellen in großem Umfang entdecken. Das könnte zwar bei der Verteidigung von Systemen helfen, zugleich aber das Bedrohungsniveau für kritische Infrastrukturen wie Krankenhäuser und Energienetze erhöhen.
- Risiken des Kontrollverlusts: Die Kontrolle über Systeme, die außerhalb des Einflussbereichs ihrer Entwickler handeln, könnte mit zunehmenden Fähigkeiten schwieriger werden.
- Automatisierte Forschung und Entwicklung: Systeme könnten die Forschung und Entwicklung im Bereich künstlicher Intelligenz automatisieren, wodurch sich die drei zuvor genannten Risiken vervielfachen könnten.
Anforderungen an Entwickler fortschrittlicher Modelle
Anthropic schlägt vor, dass Entwickler fortschrittlicher Modelle ihre Systeme testen und eine Zusammenfassung der Ergebnisse veröffentlichen. Zusätzlich sollen sie ein Sicherheitsrahmenwerk vorlegen, das erläutert, wie katastrophale Risiken bewertet werden, sowie Systemkarten, die die Fähigkeiten und Risiken der Modelle erklären. Das Rahmenwerk fordert außerdem regelmäßige Berichte über die allgemeine Risikolage und regelmäßige unabhängige Bewertungen. Das Unternehmen weist darauf hin, dass einige Transparenzanforderungen bereits durch Gesetze in Kalifornien und New York vorgeschrieben sind, ist jedoch der Ansicht, dass sein Vorschlag in einigen Bereichen darüber hinausgeht.
Nach dem Vorschlag sollte jeder Entwickler fortschrittlicher Modelle mindestens einen qualifizierten unabhängigen Prüfer beauftragen. Dieser Prüfer soll eine Überprüfung der Bewertungen und Risikoberichte des Unternehmens veröffentlichen. Anthropic fordert Regierungen und die Technologiebranche zudem auf, durch die Festlegung von Standards für unabhängige Prüfer, die Bereitstellung von Finanzierung und einen ausreichenden Zugang zu Modellen ein Ökosystem unabhängiger Prüfer zu entwickeln.
Das Rahmenwerk umfasst außerdem Sicherheitsanforderungen zum Schutz der Modellgewichte und der für das Training verwendeten Infrastruktur, da diese wertvolle Ziele für Angreifer darstellen, darunter staatliche Akteure mit umfangreichen Ressourcen. Das Unternehmen schlägt vor, die gesamte Entwicklungsumgebung gegen externe und interne Bedrohungen abzusichern, das Sicherheitsprogramm auf allgemeiner Ebene öffentlich zu beschreiben, einer bestimmten staatlichen Stelle auf Anfrage Einzelheiten bereitzustellen, Kanäle zur Meldung von Angriffen zur Nachahmung von Modellen einzurichten und die Abwehrmaßnahmen regelmäßig zu testen.
Staatliche Befugnisse mit Schutzvorkehrungen
Anthropic ist der Ansicht, dass Regierungen über die rechtliche Möglichkeit verfügen sollten, den Einsatz von Modellen zu verhindern oder abzuschrecken, die ein erhebliches Risiko für katastrophale Schäden darstellen. Dafür sollten zivilrechtliche Sanktionen vorgesehen werden, die an den weltweiten Jahresumsatz gekoppelt sind und sich bei wiederholten Verstößen erhöhen. Zugleich warnt das Unternehmen vor weitreichenden oder schwerfälligen Regulierungsbefugnissen und schlägt einen gezielten Mechanismus zur Verhinderung gefährlicher Einsätze sowie konkrete Schutzvorkehrungen gegen den Missbrauch dieser Befugnis vor.
Das Rahmenwerk richtet sich in erster Linie an die US-Bundesregierung, fordert jedoch nicht die Aufhebung einzelstaatlicher Gesetze, es sei denn, es wird ein Bundesgesetz verabschiedet, das mindestens ebenso streng ist wie der Vorschlag. Anthropic zufolge sollte die Aufhebung einzelstaatlicher Befugnisse begrenzt sein, damit die Bundesstaaten weiterhin Bereiche wie Kindersicherheit und Verbraucherschutz regulieren können, solange diese außerhalb der im Bundesgesetz festgelegten Sicherheitsfunktionen liegen.
Stärkung der gesellschaftlichen Widerstandsfähigkeit
Der zweite Teil des Rahmenwerks schlägt Maßnahmen vor, um die Fähigkeit der Gesellschaft zur Bewältigung von Risiken zu erhöhen. Im biologischen Bereich umfassen die Empfehlungen die Prüfung der Gensynthese, die Überwachung neuer Ausbrüche durch Frühwarnsysteme sowie Vorsorgemaßnahmen durch die Lagerung von Schutzausrüstung und Mitteln zur Begrenzung der Übertragung über die Luft.
Im Cyberbereich fordert Anthropic, die Software zu stärken, auf der das Internet beruht, den Betreibern kritischer Infrastrukturen technische Unterstützung bereitzustellen und die dort eingesetzten Altsysteme zu ersetzen. Außerdem schlägt das Unternehmen eine spezielle staatliche Funktion zur Beobachtung der Cyberfähigkeiten fortschrittlicher Modelle vor sowie eine Zusammenarbeit zwischen Regierung und Technologiebranche bei der Entwicklung von Schutzmaßnahmen, die eine breite gemeinsame Nutzung von Cyberfähigkeiten ermöglichen.
Das Unternehmen räumt ein, dass die Agenda zur Widerstandsfähigkeit gegenüber Risiken des Kontrollverlusts sowie gegenüber automatisierter Forschung und Entwicklung noch weniger ausgereift sei und branchenweit weiterer Arbeit bedürfe. Zu den genannten Ansätzen gehören die Entwicklung von Fähigkeiten zur Erkennung und Bewältigung von Systemen, die außerhalb der Kontrolle ihrer Entwickler handeln, sowie der Aufbau einer Infrastruktur, um solche Systeme einzudämmen oder abzuschalten.
Anthropic rechnet mit einer breiten Debatte über seine Vorschläge, fordert politische Entscheidungsträger jedoch auf, sich bereits jetzt mit diesen Fragen zu befassen, während sich die Fähigkeiten künstlicher Intelligenz in den kommenden Monaten weiter verbessern. Das Unternehmen betont, dass die Governance der Technologie mit dieser Entwicklung Schritt halten müsse, wobei die vorgelegten Vorschläge weiterhin Gegenstand von Diskussion und Bewertung bleiben.