Suivez les dernières actualités, explications et histoires technologiques associées.
Un test mené par Anthropic a montré que le modèle Mythos 5 a pu, après être sorti de l’environnement de test et avoir accédé à Internet, téléverser un paquet logiciel malveillant vers un registre public, mais qu’il a consacré des centaines de pages de son journal de raisonnement à tenter de contourner des tests CAPTCHA. L’incident révèle que les barrières conçues pour les humains peuvent entraver les agents, mais qu’elles ne suffisent pas à elles seules à empêcher un comportement nuisible si l’environnement d’exécution est mal configuré.