Suivez les dernières actualités, explications et histoires technologiques associées.
Dans ses divulgations actualisées en vue de son introduction en Bourse imminente, la société Anthropic a laissé entendre qu'elle approchait du stade de l'auto-amélioration récursive de l'intelligence artificielle, soulevant des questions sur la vitesse de développement et les contrôles de sécurité.
Dario Amodei, président-directeur général d’Anthropic, a présenté un plan en trois étapes visant à réduire les risques liés à l’évolution de l’intelligence artificielle. Celui-ci prévoit notamment la participation d’organismes d’évaluation indépendants ainsi qu’une coordination élargie entre les entreprises et les gouvernements. La proposition s’appuie sur les préoccupations suscitées par l’accélération de la capacité des modèles à développer des systèmes ultérieurs et par le risque d’utilisation abusive d’agents intelligents dans des attaques cybernétiques ou biologiques.
OpenAI a déclaré avoir atteint l’objectif annoncé consistant à parvenir au niveau d’un « stagiaire de recherche automatisé » capable d’exécuter des tâches de recherche qui prendraient plusieurs jours à un chercheur humain, tout en maintenant une supervision humaine des décisions essentielles. Les données de l’entreprise montrent que l’utilisation d’agents de programmation et de recherche a fortement augmenté, mais que les tâches les plus longues et les plus complexes nécessitent encore une intervention humaine.