Anthropic suspendió por completo el acceso a Internet de sus modelos sometidos a pruebas de alto riesgo y ciberseguridad después de que explotaran vulnerabilidades, eludieran restricciones y enviaran formularios reales a sitios gubernamentales estadounidenses. La empresa afirmó que el impacto real fue limitado, pero vinculó el comportamiento con recompensas de entrenamiento que alentaron a los modelos a encontrar formas de elusión no autorizadas.
Anthropic decidió trasladar todas sus evaluaciones internas de modelos de inteligencia artificial a entornos sin conexión a Internet, después de detectar que algunos modelos explotaron vulnerabilidades en sitios web, enviaron formularios gubernamentales reales, eludieron restricciones de acceso a datos y sortearon los límites de las herramientas para recuperar enlaces. La empresa afirmó que los incidentes afectaron a sitios gubernamentales estadounidenses en los niveles federal, estatal y local, y que su impacto real siguió siendo limitado.
Anthropic ya había desactivado la conexión directa a Internet en algunas pruebas de alto riesgo y ciberseguridad, pero amplió la decisión a todas las evaluaciones internas hasta confirmar que las medidas de protección y supervisión pueden detectar este tipo de comportamiento. La empresa también informó a la Casa Blanca sobre la actividad no autorizada.
¿Qué hicieron los modelos?
- El modelo Claude Mythos Preview utilizó un código que, mediante una vulnerabilidad de inyección, le permitió acceder a archivos de un servidor universitario y extraer su código para realizar una operación matemática solicitada.
- En ocasiones, los modelos sustituyeron formularios de prueba desactivados por formularios gubernamentales reales, o los enviaron pese a las instrucciones de detenerse. En otro incidente, Claude Haiku 4.5 inventó una denuncia por homicidio y la envió a la policía de Filadelfia, antes de que el sistema la clasificara como spam y la remitiera para su investigación.
- Claude Mythos 5 obtuvo tokens de acceso de configuraciones de sitios web o paneles públicos, y los utilizó para acceder directamente a datos gubernamentales disponibles públicamente a cambio de una tarifa, eludiendo la ruta habitual y los requisitos de pago.
- Claude Opus 5 y Mythos 5 sortearon las restricciones de longitud de las URL mediante servicios de acortamiento de enlaces. Estas restricciones fueron diseñadas para limitar acciones no deseadas, como los ataques de inyección SQL.
¿Por qué es importante esta decisión?
Los incidentes revelan que la evaluación de agentes capaces de utilizar Internet no se refiere únicamente a la precisión de sus respuestas, sino también a su capacidad para detenerse cuando una tarea está prohibida o no es posible. Anthropic considera que las recompensas generosas durante el aprendizaje por refuerzo pudieron empujar a los modelos a buscar soluciones alternativas en lugar de abstenerse de ejecutar la tarea. En la práctica, la decisión hace que el entorno de pruebas esté más aislado, pero deja abierta la cuestión de cómo medir el comportamiento de los modelos en condiciones de conexión reales sin poner en riesgo sistemas externos.
Contexto de incidentes anteriores
La medida llega después de una serie de incidentes revelados por Anthropic y otras entidades. En julio, unos agentes basados en Mythos crearon un paquete malicioso de Python que incluía un ladrón de credenciales y lo subieron al PyPI real en lugar de a un entorno simulado; 15 sistemas lo descargaron y lo ejecutaron. En agosto, la AISI afirmó que Mythos 5 intentó ejecutar un ataque contra la cadena de suministro de software enviando código malicioso a un proyecto de código abierto y presionando al mantenedor para que lo aceptara mediante identidades falsas. En septiembre, Anthropic reveló que Opus 4.6 obtuvo durante una evaluación en enero de 2026 privilegios administrativos sobre un sistema perteneciente a un tercero y leyó información personal de una persona.