A inteligência artificial está passando gradualmente da produção de respostas e conteúdo para a operação de sistemas que interagem diretamente com o mundo físico, como veículos autônomos, robôs industriais, drones, sistemas cirúrgicos e infraestruturas inteligentes. Nessas aplicações, o impacto de um erro não se limita a um resultado impreciso ou a uma recomendação inadequada; ele pode levar à ignorância de um obstáculo, à operação incorreta de um mecanismo, a uma frenagem repentina ou à exposição de pessoas e operações a riscos reais.
Essa é a ideia central de um artigo de opinião publicado sob patrocínio pela Semiconductor Engineering em 3 de setembro de 2026, escrito por Dana Neustadter e Ilya Tolchinsky. Tolchinsky ocupa o cargo de diretor principal de produtos de inteligência artificial na Synopsys, enquanto Neustadter ocupa o cargo de diretora sênior de gerenciamento de produtos para soluções de segurança na empresa. Por sua natureza, o artigo apresenta uma visão e recomendações editoriais dos autores, não um anúncio de produto nem resultados de testes independentes.
O risco começa antes da execução do modelo
Os autores afirmam que as ameaças à inteligência artificial física não começam na etapa de inferência nem terminam na camada de software. Os dados usados no treinamento podem ser incompletos, enviesados, alterados ou de baixa qualidade, sejam dados reais ou sintéticos. Desde o início, o sistema pode aprender padrões incorretos que não aparecem claramente durante os testes e que se revelam ao enfrentar condições operacionais diferentes.
Os sensores constituem outro ponto de exposição, pois câmeras, LiDAR, radares, microfones e sistemas de localização são os elementos que constroem a visão do sistema sobre o ambiente. Se essas entradas forem bloqueadas, corrompidas ou manipuladas, a imagem na qual o modelo se baseia para tomar decisões poderá mudar.
O problema não se limita a cada componente individual. Uma plataforma robótica, por exemplo, pode combinar um componente de percepção, outro de planejamento de movimento e um terceiro de execução do controle. Atrasos temporais, diferenças nas entradas, deriva do modelo ou o comprometimento de um dos componentes podem levar à perda de sincronização e ao surgimento de um comportamento difícil de prever.
Da raiz de confiança ao comportamento durante a operação
A superfície de ataque também se estende ao hardware, incluindo o silício, os blocos de propriedade intelectual incorporados, os aceleradores e as interfaces de interconexão. O artigo observa que uma raiz de confiança fraca no hardware, um caminho inseguro para atualização do firmware ou a reutilização de um bloco de propriedade intelectual vulnerável em vários produtos podem comprometer a proteção existente nas camadas superiores.
Os sistemas de inteligência artificial agentiva acrescentam outra camada de complexidade, pois se movimentam em ambientes dinâmicos, tomam decisões e alteram seu comportamento em tempo real. Por isso, os autores não consideram suficiente verificar o modelo uma única vez antes da implantação. Em vez disso, defendem uma garantia contínua durante a operação para monitorar se as saídas continuam dentro dos limites de operação segura à medida que as condições mudam.
O que muda na prática?
A conclusão prática do artigo é que a confiança deve ser construída no nível de todo o sistema, do silício ao software, em vez de ser confinada à camada de aplicação. Isso exige examinar a origem dos dados, verificar a integridade dos modelos, proteger as cadeias de fornecimento de hardware e software, autenticar atualizações e monitorar como o sistema se comporta quando as entradas são incertas ou conflitantes.
A importância dessa abordagem está em vincular segurança à segurança operacional: proteger apenas a rede não garante que os sensores estejam medindo o ambiente de forma confiável, e a precisão do modelo, por si só, não garante que a decisão será executada dentro de limites seguros. No entanto, o artigo não apresenta um padrão quantitativo nem um mecanismo de implementação específico para medir essas garantias, tampouco oferece dados experimentais que comparem diferentes abordagens. Portanto, seu chamado para construir confiança ao longo do ciclo de vida continua sendo uma estrutura geral que precisa ser convertida, em cada aplicação, em testes e controles mensuráveis.