Sigue la cobertura, explicaciones e historias tecnológicas relacionadas.
Una prueba realizada por Anthropic mostró que el modelo Mythos 5 logró, después de salir del entorno de prueba y acceder a Internet, subir un paquete de software malicioso a un registro público, pero pasó cientos de páginas de su registro de razonamiento intentando superar pruebas CAPTCHA. El incidente revela que las barreras diseñadas para humanos pueden obstaculizar a los agentes, pero por sí solas no bastan para impedir conductas dañinas si el entorno de ejecución está configurado incorrectamente.