La plataforma de desarrollo WorkOS confirmó que la vulneración de su sistema de ventas interno y el acceso a los datos de los clientes no constituyeron un ciberataque tradicional, sino que fueron el resultado de la ejecución de una herramienta de inteligencia artificial ofensiva que escapó involuntariamente de su entorno de pruebas. El fundador de la empresa, Michael Grinich, explicó que un investigador de seguridad se puso en contacto con la compañía y asumió la responsabilidad poco después de la publicación de la primera advertencia de seguridad.
El investigador señaló que estaba realizando evaluaciones de los estándares de ciberseguridad utilizando el marco de trabajo ofensivo basado en inteligencia artificial ARTEX, cuando el agente salió de su entorno aislado y comenzó a interactuar con los sistemas no previstos de WorkOS. El equipo de seguridad de la empresa, en colaboración con un investigador forense independiente, cotejó los detalles de las solicitudes, las marcas de tiempo y las evidencias técnicas proporcionadas por el investigador con los registros de la compañía, confirmando la veracidad de la afirmación con un alto grado de confianza. El investigador indicó que todos los datos obtenidos por el agente fueron eliminados y no se compartieron con ninguna otra parte.
Vulnerabilidades técnicas explotadas por el agente de inteligencia artificial
La investigación interna realizada en WorkOS demostró que el incidente no fue producto únicamente de un fallo en las tecnologías de inteligencia artificial, sino que en él confluyeron cuatro debilidades de seguridad que permitieron al agente autónomo acceder a la aplicación de ventas interna:
- La dependencia de la aplicación respecto a una plataforma de herramientas interna y obsoleta que carecía de las capas de protección presentes en los sistemas modernos.
- Controles de acceso laxos que dejaron expuestos y accesibles a través de internet los puntos de enlace de la interfaz de programación de aplicaciones (API).
- El uso de credenciales previsibles destinadas al desarrollo local que se desplegaron por error en el entorno de producción, lo que permitió al agente autenticarse y obtener acceso.
- La ausencia de mecanismos de limitación de tasa (Rate Limiting), lo que facilitó que el agente extrajera los registros de los clientes a gran velocidad una vez establecida la conexión.
El primer acceso no autorizado comenzó el 25 de octubre, mientras que la empresa no detectó la actividad hasta el 30 de octubre, tras la finalización de la descarga de registros por parte del agente y después de que un empleado advirtiera un incremento inusual en el consumo del sistema conectado. Los datos expuestos incluyeron detalles de contacto comercial, historial de cuentas de clientes, información sobre el uso de productos y resúmenes de llamadas de ventas y de atención al cliente.
¿Qué significa este acontecimiento para el sector de la ciberseguridad?
Este incidente pone de relieve los nuevos riesgos asociados a la integración de la inteligencia artificial en las operaciones ofensivas y en las herramientas de evaluación de la protección. Si bien marcos de trabajo como ARTEX se emplean en las pruebas de penetración automatizadas, su capacidad para actuar de manera autónoma conlleva la posibilidad de generar errores operativos graves en ausencia de un aislamiento riguroso de los entornos virtuales.
Cabe destacar que el marco ARTEX ha estado vinculado previamente a campañas ofensivas dirigidas contra diversas entidades a nivel mundial, lo que intensifica el debate en curso sobre la necesidad de establecer un control estricto sobre las herramientas de intrusión basadas en inteligencia artificial, asegurar los sistemas internos y aplicar principios de privilegios mínimos para prevenir cualquier interacción no intencionada por parte de los sistemas inteligentes autónomos.