Anthropic a annoncé que son laboratoire de biologie moléculaire, situé dans la baie de San Francisco, avait identifié un système enzymatique jusque-là inconnu à l’intérieur de l’ADN des bactériophages, des virus qui infectent les bactéries et se multiplient à l’intérieur de celles-ci. L’entreprise affirme que ce système possède des propriétés rappelant les mécanismes CRISPR, puisqu’il peut effectuer des opérations telles que couper, copier et coller de l’ADN.
Les mécanismes CRISPR sont naturellement utilisés par les bactéries dans le cadre d’un système immunitaire contre les virus, avant de devenir une technologie largement utilisée pour l’édition génétique. La découverte d’un mécanisme biologique remplissant des fonctions similaires pourrait donc être importante, mais le degré de nouveauté et la valeur scientifique de la découverte n’ont pas encore été établis.
Le rôle de Claude dans la découverte
Selon Dario Amodei, directeur général d’Anthropic, la découverte a été réalisée « principalement, mais pas entièrement » par Claude. Le modèle a utilisé environ 950 agents pour traiter les données, et le processus a consommé 210 millions de tokens, tandis que le travail analytique intensif n’a duré que 21 heures. Anthropic n’a pas précisé combien de mois s’étaient écoulés depuis la mise en service du laboratoire, mais a indiqué qu’il avait été créé au printemps de l’année en cours.
En revanche, Amodei a reconnu que le résultat reposait sur les travaux d’autres chercheurs, en signalant qu’une équipe de Stanford avait déjà découvert un système similaire sur certains aspects. La communauté scientifique au sens large devra vérifier l’ampleur et la nouveauté de la découverte, plutôt que de considérer la description qu’en fait l’entreprise comme un résultat définitif.
Ce que le modèle n’a pas fait
Ce que l’article révèle surtout, ce n’est pas uniquement la découverte, mais aussi les limites de l’autonomie de Claude au sein du laboratoire. Anthropic a confirmé que tous les travaux de laboratoire avaient été réalisés par des scientifiques humains et que le laboratoire fonctionnait aux niveaux de sécurité biologique BSL-1 et BSL-2, sans manipuler d’agents pathogènes capables d’infecter les humains. D’après les informations disponibles, le rôle de Claude s’est limité à la recherche dans les données et à l’aide à l’identification du système enzymatique, sans contrôle autonome des équipements ni réalisation des expériences physiques.
Pourquoi cette information est-elle importante ?
Cette initiative intervient alors que des dirigeants du secteur de l’intelligence artificielle mettent en garde contre les risques liés à l’utilisation de modèles dans des domaines biologiques sensibles, notamment la possibilité d’un usage détourné à des fins de bioterrorisme. Dans le même temps, Amodei estime que l’intelligence artificielle pourrait contribuer à traiter la plupart des maladies au cours des 5 à 10 prochaines années. Cela révèle un arbitrage clair entre l’accélération de la recherche scientifique et la nécessité de contrôles de sécurité stricts.
Anthropic n’est pas la seule entité à utiliser l’intelligence artificielle dans la recherche biologique : des chercheurs de Stanford ont publié des travaux sur les modèles de langage et CRISPR, des chercheurs de l’University of California, San Francisco ont utilisé l’intelligence artificielle pour concevoir des enzymes à partir de zéro, et Google a lancé l’outil AlphaFold pour la recherche en biologie en 2020.
Anthropic n’exclut pas à l’avenir de créer un laboratoire dans lequel Claude pourrait contrôler de manière autonome les équipements de laboratoire, mais l’entreprise affirme que cela ne se produit pas aujourd’hui et que tout passage de l’assistance analytique à des expériences autonomes nécessiterait la mise en place de garanties appropriées.