En cuestión de meses, los pequeños modelos de inteligencia artificial podrían ser capaces de copiarse y propagarse entre dispositivos comerciales del Internet de las cosas, según una investigación realizada por el equipo Frontier Red Team de Anthropic. Este escenario difiere del malware tradicional en que el propio modelo se ejecuta en el dispositivo infectado, lo que elimina el punto de control central que podría desactivarse para interrumpir el ataque.
Los investigadores probaron 15 dispositivos receptores de televisión con Android, con un precio aproximado de 55 dólares por dispositivo. Un modelo de pesos abiertos con 26.000 millones de parámetros pudo ejecutarse de forma distribuida entre ellos a una velocidad de 0,39 tokens por segundo. El experimento se centró en la capacidad de los modelos para ejecutar inferencias en hardware desconocido, en lugar de estudiar la explotación de vulnerabilidades, un aspecto que ya habían abordado investigaciones anteriores.
Resultados de las pruebas
Un modelo con 9.000 millones de parámetros pudo ejecutar inferencias en ocho de los nueve tipos de hardware probados por el equipo. Posteriormente, los investigadores probaron el ciclo completo de replicación en una red cerrada con ocho dispositivos Android simulados, simplificando deliberadamente el paso de intrusión.
Entre los modelos de pesos abiertos probados, GLM-5.2 completó el ciclo y alcanzó los ocho dispositivos en cuatro de cinco intentos. Anthropic describe este resultado como un límite superior del éxito esperado en el mundo real, no como un indicador de una tasa de propagación efectiva.
¿Qué podría cambiar en la práctica?
Los modelos con 30.000 millones de parámetros o menos ya pueden ejecutar muchos de los pasos individuales, pero cometen errores al conectarlos en una sola cadena. Basándose en la tasa histórica de mejora, Anthropic espera que estos modelos alcancen el nivel de GLM-5.2 para finales de 2026, lo que podría hacer posibles poco después los «replicadores pequeños basados en pesos».
La comparación realizada por la empresa indica que una red del tamaño de la red de Kimwolf, que infectó más de dos millones de dispositivos, podría alojar unas 133.000 copias de un modelo de 26.000 millones de parámetros si cada 15 dispositivos ejecutara una copia. Sin embargo, la capacidad de cálculo agregada no equivaldría a más de unas 40 unidades de procesamiento gráfico Nvidia H100, y cada replicación podría tardar más de un día, lo que significa que la propagación sería lenta y costosa desde el punto de vista computacional.
Ventajas defensivas y limitaciones actuales
A diferencia de las redes de bots tradicionales diseñadas para tipos específicos de dispositivos, un gusano basado en inteligencia artificial podría adaptarse a hardware desconocido. Sin embargo, la transferencia de modelos grandes y el tráfico continuo entre dispositivos que normalmente no se comunican podrían hacerse claramente visibles en los sistemas de monitorización de los proveedores de servicios de Internet. Asimismo, eliminar las contraseñas predeterminadas y mejorar la configuración de seguridad de los fabricantes podría reducir el número de dispositivos expuestos a ataques.
Conclusión editorial: los experimentos no demuestran la existencia actual de un replicador malicioso capaz de propagarse en un entorno abierto; el ciclo se probó en una red cerrada y con un paso de intrusión simplificado. Pero muestran que el riesgo futuro no depende únicamente del aumento del tamaño de los modelos, sino de su capacidad para combinar tareas de exploración, ejecución y replicación, y transferir lo que aprenden a otras copias.