Das Unternehmen Anthropic erklärte, es habe Versuche festgestellt, seine KI-Modelle auf eine Weise zu nutzen, die die Entwicklung biologischer Waffen unterstützen könnte. Dies geht aus einem Bericht über den Missbrauch dieser Modelle und mögliche Maßnahmen zu dessen Eindämmung hervor. Das Unternehmen zählt die sogenannte biologische Missbrauchsnutzung zu den schwerwiegendsten Risiken im Zusammenhang mit der Weiterentwicklung der Fähigkeiten künstlicher Intelligenz.
Dem Bericht zufolge konzentrieren sich die Bedenken auf die Möglichkeit, dass fortgeschrittene Modelle dazu beitragen könnten, bestehende Krankheitserreger gefährlicher zu machen oder neue Krankheitserreger zu entwickeln. Der veröffentlichte Text legte keine Belege für die tatsächliche Herstellung einer biologischen Waffe vor, dokumentierte jedoch Fälle, bei denen Anthropic zufolge die übliche Forschungsnutzung weit genug überschritten wurde, um Vorsichtsmaßnahmen zu rechtfertigen.
Beispiele für von dem Unternehmen festgestellte Nutzungen
Der Bericht erwähnte, dass ein in einer Region mit unzureichender Unterstützung tätiger Forscher Claude zur Planung von Experimenten zur Anpassung der Vogelgrippe an Säugetiere genutzt habe. In einem anderen Fall verwies der Bericht auf einen staatlich unterstützten Forscher, der das Modell dazu eingesetzt habe, Toxine in einer computergestützten Umgebung neu zu gestalten.
Anthropic beschuldigte die in diesen Beispielen genannten Personen nicht, böswillige Absichten zu verfolgen, und betonte, dass die Entscheidungen aus Vorsicht getroffen worden seien. Die Bedeutung dieses Punkts liegt darin, dass die Risikobewertung gemäß der Darstellung im Bericht nicht allein von der Identität oder der erklärten Absicht des Nutzers abhängt, sondern auch von der Art der Unterstützung, die das Modell leisten kann, und von der Möglichkeit ihres Missbrauchs.
Was hat sich praktisch verändert?
Nach der Entdeckung dieser Fälle erklärte Anthropic, die Konten der betreffenden Nutzer gesperrt und zusätzliche Schritte unternommen zu haben, um diese Art von Aktivität künftig wirksamer zu verhindern. Der extrahierte Text enthält keine technischen Einzelheiten zu Überwachungsmechanismen, Sperrkriterien oder zur Überprüfung der Ergebnisse. Daher lässt sich die Genauigkeit des Schutzsystems oder der Umfang seiner Anwendung allein anhand dieses Materials nicht beurteilen.
Praktisch spiegelt die Ankündigung den Übergang von der theoretischen Warnung vor biologischen Risiken der künstlichen Intelligenz zur Auseinandersetzung mit tatsächlichen Nutzungsversuchen wider, die das Unternehmen innerhalb seiner Dienste festgestellt hat. Das ist für Modellentwickler, Plattformbetreiber und Forschungseinrichtungen von Bedeutung, da die Verhinderung nicht auf das Blockieren bestimmter Antworten beschränkt ist, sondern auch die Überwachung von Nutzungsmustern sowie Entscheidungen über Konten und hochsensible Aktivitäten erfordert.
Die Einschätzung von certi.news
Die wichtigste Veränderung besteht hier nicht in der Ankündigung einer neuen Fähigkeit des Modells, sondern darin, dass Anthropic Fälle offengelegt hat, die das Unternehmen dazu veranlassten, Einschränkungen für Nutzer anzuwenden und seine Schutzmaßnahmen zu aktualisieren. Der Bericht wirft außerdem eine Frage auf, die das Material nicht eindeutig beantwortet: Wie lässt sich zwischen legitimer Forschung an Krankheitserregern und einer Nutzung unterscheiden, die die Risiken der Entwicklung einer Waffe erhöhen könnte? Die Weitergabe der Beispiele soll dem Unternehmen zufolge einen Dialog innerhalb der KI-Branche über diese Risiken und Möglichkeiten zu ihrer Bewältigung anstoßen. Der verfügbare Text liefert jedoch nicht genügend Einzelheiten, um die Wirksamkeit der Maßnahmen oder ihre Übertragbarkeit auf andere Unternehmen zu beurteilen.
Der Text enthält außerdem einen Hinweis auf den Rücktritt des früheren Anthropic-Forschers Jacob Coxon und dessen Warnung vor den Risiken von KI-Systemen, die große Macht und umfangreiche Ressourcen erlangen könnten. Dieser Hinweis steht jedoch getrennt von den im Bericht dokumentierten Fällen und belegt für sich genommen keinen direkten Zusammenhang zwischen dem Rücktritt und den von dem Unternehmen angekündigten Sperrmaßnahmen.