Anthropic gab bekannt, dass sein Labor für Molekularbiologie in der San Francisco Bay Area ein bislang unbekanntes Enzymsystem in der DNA von Bakteriophagen identifiziert hat – Viren, die Bakterien infizieren und sich in ihnen vermehren. Nach Angaben des Unternehmens weist das System Eigenschaften auf, die an CRISPR-Mechanismen erinnern, da es Vorgänge wie das Schneiden, Kopieren und Einfügen von DNA ausführen kann.
CRISPR wird von Natur aus als Teil eines Immunsystems von Bakterien gegen Viren eingesetzt und entwickelte sich später zu einer weit verbreiteten Technologie für die Genomeditierung. Daher könnte die Entdeckung eines biologischen Mechanismus mit ähnlichen Funktionen bedeutsam sein. Wie neu und wissenschaftlich wertvoll die Entdeckung ist, steht jedoch noch nicht fest.
Die Rolle von Claude bei der Entdeckung
Nach Angaben von Dario Amodei, dem CEO von Anthropic, wurde die Entdeckung „größtenteils, wenn auch nicht vollständig“ von Claude gemacht. Das Modell setzte etwa 950 Agenten zur Verarbeitung der Daten ein, und der Prozess verbrauchte 210 Millionen Token, während die intensive analytische Arbeit nur 21 Stunden dauerte. Anthropic gab nicht an, wie viele Monate seit der Inbetriebnahme des Labors vergangen waren, erklärte jedoch, es sei im Frühjahr dieses Jahres eingerichtet worden.
Amodei räumte zugleich ein, dass das Ergebnis auf Arbeiten anderer Forscher aufbaute, und verwies darauf, dass ein Team von Stanford zuvor ein in einigen Aspekten ähnliches System entdeckt hatte. Die breitere Forschungsgemeinschaft muss den Umfang und die Neuartigkeit der Entdeckung überprüfen, statt die Beschreibung des Unternehmens als endgültiges Ergebnis zu betrachten.
Was hat das Modell nicht getan?
Das Wichtigste, was der Artikel offenlegt, ist nicht nur die Entdeckung selbst, sondern auch die Grenzen der Autonomie von Claude innerhalb des Labors. Anthropic bestätigte, dass sämtliche Laborarbeiten von menschlichen Wissenschaftlern durchgeführt wurden und dass das Labor innerhalb der Sicherheitsstufen BSL-1 und BSL-2 arbeitet und nicht mit Krankheitserregern umgeht, die Menschen infizieren können. Nach den verfügbaren Angaben beschränkte sich die Rolle von Claude auf die Recherche in den Daten und die Unterstützung beim Auffinden des Enzymsystems – nicht auf die autonome Steuerung von Geräten oder die Durchführung physischer Experimente.
Warum ist diese Nachricht wichtig?
Der Schritt erfolgt zu einem Zeitpunkt, an dem Führungskräfte der KI-Branche vor den Risiken des Einsatzes von Modellen in sensiblen biologischen Bereichen warnen, einschließlich einer möglichen missbräuchlichen Nutzung für Bioterrorismus. Zugleich geht Amodei davon aus, dass künstliche Intelligenz innerhalb von 5 bis 10 Jahren bei der Behandlung der meisten Krankheiten helfen könnte. Dies verdeutlicht einen klaren Zielkonflikt zwischen der Beschleunigung wissenschaftlicher Forschung und der Notwendigkeit strenger Sicherheitsvorkehrungen.
Anthropic ist nicht die einzige Organisation, die künstliche Intelligenz in der biologischen Forschung einsetzt. Forscher von Stanford haben Arbeiten über Sprachmodelle und CRISPR veröffentlicht, Forscher der University of California, San Francisco nutzten künstliche Intelligenz, um Enzyme von Grund auf zu entwerfen, und Google brachte 2020 das Tool AlphaFold für die biologische Forschung auf den Markt.
Anthropic schließt die künftige Einrichtung eines Labors nicht aus, in dem Claude Laborgeräte autonom steuern könnte. Das geschehe heute jedoch nicht, und jeder Übergang von analytischer Unterstützung zu autonomen Experimenten werde geeignete Sicherheitsvorkehrungen erfordern.