Biological Misuse

Anthropic entdeckt Versuche, ihre Modelle zur Unterstützung von Forschung im Zusammenhang mit biologischen Waffen einzusetzen

Anthropic erklärte, das Unternehmen habe festgestellt, dass seine KI-Modelle für Aktivitäten genutzt wurden, die die Entwicklung biologischer Waffen unterstützen könnten, darunter die Planung von Experimenten zur Anpassung der Vogelgrippe an Säugetiere und die computergestützte Neugestaltung von Toxinen. Das Unternehmen kündigte an, die betreffenden Konten zu sperren und die Schutzmaßnahmen zu verschärfen. Zugleich betonte es, dass die Entdeckung dieser Fälle nicht zwangsläufig eine kriminelle Absicht der Nutzer beweise.