Um estudo conduzido pela Booz Allen mostrou que agentes de inteligência artificial são capazes de explorar ambientes desconhecidos de tecnologia operacional (OT), adaptar-se a obstáculos e executar mudanças que afetam equipamentos físicos em minutos. Os resultados são importantes porque indicam uma possível transferência do risco do âmbito da invasão digital para o controle de sistemas industriais e equipamentos físicos.
Os resultados do estudo foram apresentados na conferência da SecurityWeek sobre segurança de sistemas de controle industrial (ICS), em Nashville, antes da disponibilização pública do relatório. A empresa realizou os testes dentro de um laboratório de OT isolado, usando modelos avançados de inteligência artificial que não tinham conhecimento prévio do ambiente, incluindo código-fonte, documentação de engenharia ou orientações especializadas de OT.
Resultados dos testes
Segundo os pesquisadores, os modelos atingiram todos os objetivos definidos em oito cenários. As tarefas não se limitaram a uma única etapa, mas combinaram descoberta de ativos, busca por características dos dispositivos e planejamento do ataque — etapas que normalmente são distribuídas entre várias pessoas e equipes.
Em um dos testes, os modelos passaram de uma invasão periférica à execução de ações dentro de uma rede de controle industrial em pouco mais de 16 minutos. Em outro teste, um modelo encontrou um braço robótico, identificou suas zonas de proteção e seus limites de movimento e, em seguida, movimentou-o em minutos.
Alguns mecanismos de defesa existentes conseguiram bloquear ou retardar determinadas ações, mas o estudo constatou que nenhum dos controles, isoladamente, impediu de forma consistente que os modelos autônomos alcançassem seus objetivos nos cenários testados.
O que muda na prática?
O estudo mostra que a diferença não está apenas na capacidade da inteligência artificial de executar etapas ofensivas, mas na velocidade com que ela conecta fases que normalmente exigiriam uma intervenção humana sequencial. Em ambientes de OT, essa aceleração pode transformar uma atividade cibernética em um impacto físico antes que as equipes de segurança consigam compreender ou interromper o percurso.
A Booz Allen considera que depender da obscuridade do ambiente de OT ou do desconhecimento de seus detalhes pelo invasor já não é suficiente, especialmente se os modelos conseguirem inferir características dos dispositivos e interagir com os sistemas por meio da exploração direta. No entanto, o próprio estudo reconhece que o laboratório da empresa não necessariamente corresponde a todos os ambientes corporativos de OT, uma limitação importante para a generalização dos resultados.
O que o estudo recomenda?
Os pesquisadores recomendam que proprietários e operadores de sistemas se concentrem em dificultar a movimentação dentro do ambiente, eliminar a confiança implícita, detectar rapidamente mudanças industriais relevantes e reduzir o alcance do que um invasor pode afetar depois de obter acesso, independentemente de esse acesso ter começado por um meio cibernético ou físico.
O significado do termo «superinteligência», usado pela Booz Allen, continua indefinido; no momento da preparação da matéria, a empresa não havia esclarecido se se referia à inteligência artificial avançada no sentido comum ou a um conceito mais específico. Os testes também não comprovam que todo ambiente industrial estará sujeito aos mesmos resultados, mas oferecem um indicador prático de que defesas isoladas podem não ser suficientes diante de agentes capazes de operar com rapidez e autonomia.