Un estudio realizado por Booz Allen mostró que los agentes de inteligencia artificial son capaces de explorar entornos desconocidos de tecnología operativa (OT), adaptarse a los obstáculos y ejecutar cambios que afectan a equipos físicos en cuestión de minutos. La importancia de los resultados radica en que el posible riesgo pasa del ámbito de la intrusión digital al control de sistemas industriales y equipos físicos.
Los resultados del estudio se presentaron en la conferencia de SecurityWeek sobre seguridad de sistemas de control industrial (ICS) en Nashville, antes de la publicación general del informe. La empresa llevó a cabo las pruebas dentro de un laboratorio de OT aislado, utilizando modelos avanzados de inteligencia artificial que no contaban con conocimientos previos del entorno, incluido el código fuente, la documentación de ingeniería o las directrices especializadas de OT.
Resultados de las pruebas
Según los investigadores, los modelos alcanzaron todos los objetivos definidos en ocho escenarios. Las tareas no se limitaron a un solo paso, sino que combinaron el descubrimiento de activos, la búsqueda de características de los dispositivos y la planificación del ataque, etapas que normalmente se distribuyen entre varias personas y equipos.
En una de las pruebas, los modelos pasaron de una intrusión perimetral a ejecutar acciones dentro de una red de control industrial en poco más de 16 minutos. En otra prueba, un modelo encontró un brazo robótico, identificó sus zonas de protección y sus límites de movimiento, y después lo movió en cuestión de minutos.
Algunas medidas de defensa existentes lograron bloquear o ralentizar determinadas acciones, pero el estudio constató que ninguno de los controles, por sí solo, detuvo de manera consistente a los modelos autónomos para impedirles alcanzar sus objetivos dentro de los escenarios probados.
¿Qué cambia en la práctica?
El estudio muestra que la diferencia no reside únicamente en la capacidad de la inteligencia artificial para ejecutar pasos ofensivos, sino también en la rapidez con la que conecta etapas que normalmente requerirían una intervención humana sucesiva. En entornos de OT, esta aceleración puede convertir una actividad cibernética en un impacto físico antes de que los equipos de seguridad puedan comprender o interrumpir la secuencia.
Booz Allen considera que ya no basta con depender de la oscuridad del entorno de OT o del desconocimiento que tenga el atacante de sus detalles, especialmente si los modelos pueden inferir las características de los dispositivos e interactuar con los sistemas mediante la exploración directa. Sin embargo, el propio estudio reconoce que el laboratorio de la empresa no necesariamente coincide con todos los entornos de OT empresariales, una limitación importante a la hora de generalizar los resultados.
¿Qué recomienda el estudio?
Los investigadores recomiendan que los propietarios y operadores de los sistemas se centren en dificultar el movimiento dentro del entorno, eliminar la confianza implícita, detectar con rapidez los cambios industriales de impacto y reducir el alcance de aquello que el atacante puede afectar después de obtener acceso, independientemente de que dicho acceso comience por un medio cibernético o físico.
El significado del término «superinteligencia» utilizado por Booz Allen sigue sin estar claro, ya que la empresa no explicó, en el momento de preparar el artículo, si se refería a la inteligencia artificial avanzada en el sentido habitual o a un concepto más específico. Las pruebas tampoco demuestran que todos los entornos industriales vayan a experimentar los mismos resultados, pero ofrecen un indicador práctico de que las defensas individuales pueden no ser suficientes frente a agentes capaces de operar con rapidez y autonomía.