Un informe reciente publicado por el Grupo de Inteligencia de Amenazas de Google (GTIG) ha revelado una nueva y peligrosa fase de los ciberataques, en la que se ha observado por primera vez el uso por parte de atacantes de marcos de trabajo basados en inteligencia artificial capaces de automatizar todo el ciclo de vida del ataque, desde el descubrimiento de vulnerabilidades hasta su explotación, sin necesidad de intervención humana directa.
Durante las operaciones de monitoreo, el grupo identificó un marco de trabajo llamado exploit_agent, que fue descubierto en un servidor de prueba expuesto. Este marco está diseñado para comparar el código de las aplicaciones web entre las versiones que han sido parcheadas y las versiones que siguen siendo vulnerables, para luego identificar debilidades, desarrollar software de explotación (exploits) y ejecutarlos automáticamente. El servidor descubierto también contenía datos robados de víctimas y scripts para actividades de post-explotación, como operaciones de reconocimiento y despliegue de webshells, con indicios de ataques dirigidos a los sectores de educación, medios de comunicación y entretenimiento en Francia.
Marcos de trabajo ofensivos que operan a "velocidad de máquina"
El informe explica que los atacantes, incluidos grupos respaldados por estados, han comenzado a adoptar marcos de trabajo multiagente (Multi-agent frameworks) para aumentar la velocidad y el alcance de sus operaciones. Entre estos marcos destacan:
- Artex: Es el marco más utilizado, y su uso se asocia principalmente con grupos de habla china.
- Cairn: Se detectó su uso en ataques dirigidos al sector aeroespacial en los Estados Unidos.
- PentAGI: Se utilizó en operaciones de reconocimiento sistemático y escaneo de vulnerabilidades en organizaciones de Asia.
- CyberStrikeAI y HexStrike AI: Otros marcos de trabajo que están siendo probados y desarrollados por los atacantes.
Además, se observó el uso de herramientas como ZeroHollow para servicios de inferencia y desarrollo de exploits, y el marco de trabajo de código abierto Agent Zero, que se caracteriza por su capacidad para ejecutar código y generar herramientas de forma dinámica e independiente.
Expansión del alcance de las amenazas impulsadas por la IA
No se trata solo de la intrusión directa, sino que el uso de los modelos de lenguaje extensos (LLMs) se ha extendido a otros campos:
- Phishing como servicio (Phishing-as-a-Service): Como el servicio Jieyou, que permite a los clientes personalizar modelos de phishing a través de chatbots.
- Influencia como servicio (IaaS): El uso de plataformas totalmente automatizadas para gestionar campañas de desinformación mediática, desde la creación de personajes ficticios hasta la publicación interactiva en plataformas.
- Robo de recursos de IA (LLMJacking): Operaciones que tienen como objetivo robar credenciales de acceso a modelos de IA para explotar su capacidad de cómputo, lo que ha causado pérdidas financieras de hasta un millón de dólares en un caso.
¿Por qué representa este desarrollo un peligro real?
El peligro fundamental reside en la transición hacia lo que los expertos han descrito como "ataques a velocidad de máquina". Anteriormente, los procesos de detección y explotación de vulnerabilidades requerían equipos humanos especializados y mucho tiempo; ahora, la inteligencia artificial reduce enormemente el coste y la experiencia necesarios, poniendo capacidades avanzadas al alcance de grupos pequeños y poco profesionales.
Este desarrollo pone a las organizaciones, especialmente a las infraestructuras críticas como las plantas de agua y los hospitales, en una carrera perdida si dependen de los ciclos de actualización (patching) tradicionales que se realizan mensualmente. Un atacante automatizado puede explotar una vulnerabilidad tan pronto como aparece, mientras que un defensor humano necesita días o semanas para responder. Por lo tanto, el informe subraya la necesidad de una transición rápida hacia defensas automatizadas que puedan detectar y responder con la misma velocidad que los ataques automatizados.