Espaço e tecnologias espaciais

A inteligência artificial na órbita nuclear: por que a expressão «o ser humano no circuito» não é suficiente?

O artigo analisa os riscos da integração da inteligência artificial em satélites de alerta antecipado e sistemas nucleares de comando e controle, alertando que manter a decisão final nas mãos de um ser humano não garante a independência do julgamento se o modelo tiver moldado os dados que o decisor vê. Também apresenta os esforços das Nações Unidas e do Fórum REAIM, com foco na lacuna de verificação e implementação.

2026-09-29
6 min de leitura
14 visualizações
certi.news Editorial Team
A inteligência artificial na órbita nuclear: por que a expressão «o ser humano no circuito» não é suficiente?

A integração da inteligência artificial em satélites de alerta antecipado de mísseis e sistemas nucleares de comando e controle levanta uma questão que vai além da precisão dos modelos: basta que o ser humano mantenha a autoridade sobre a decisão de lançamento se o sistema tiver definido previamente o que esse ser humano vê e o que considera uma ameaça? Esta é a questão central discutida pelo artigo, à luz de advertências públicas vindas do setor de inteligência artificial e de iniciativas internacionais que ainda não se transformaram em restrições verificáveis.

Da análise em terra ao processamento em órbita

A arquitetura tradicional de alerta antecipado baseava-se na captura, por satélites, de dados térmicos e de radar e no envio desses dados à Terra, para que analistas humanos os interpretassem. Mas a arquitetura moderna caminha para colocar modelos de visão computacional e processamento de borda a bordo dos satélites, de modo que classifiquem os sinais e determinem o que pode ser a pluma de um míssil antes que a imagem bruta chegue ao ser humano.

Isso ocorre simultaneamente à transição de um número limitado de satélites geoestacionários para grandes constelações em órbita terrestre baixa, além de plataformas que integram radar, imagens e informações de sinais em um único fluxo quase instantâneo. Essa automação responde à velocidade das ameaças orbitais e hipersônicas, mas, ao mesmo tempo, comprime o espaço disponível para a revisão humana.

Que tipo de erro pode ocorrer?

Os modelos atualmente utilizados não são sistemas de superinteligência autônomos e autoaperfeiçoáveis do tipo alertado por pesquisadores da área de alinhamento da inteligência artificial, mas modelos restritos, com pesos fixos, e algoritmos para fusão de sensores. No entanto, a limitação do modelo não elimina o risco operacional: o sistema pode interpretar um brilho solar ou o reflexo de detritos como um rastro de lançamento de míssil e então transmitir essa avaliação a uma cadeia de comando que dispõe de apenas alguns minutos para tomar uma decisão.

Essa possibilidade é ainda mais importante porque a inteligência artificial não apresenta necessariamente a decisão de lançamento de forma direta; ela pode filtrar os sinais, estabelecer suas prioridades e construir a imagem na qual o ser humano se baseia. Por isso, a expressão «o ser humano detém a decisão final» pode ser insuficiente se ele não for capaz de auditar os dados brutos ou compreender como o modelo formou sua avaliação.

O que revela a comparação com a proibição nas escolas?

O artigo compara essa situação à decisão do prefeito da cidade de Nova York, Zohran Mamdani, em 2 de setembro, de suspender por um ano o uso de inteligência artificial generativa pelos alunos das escolas públicas até a oitava série, afetando cerca de 600 mil crianças. A justificativa da decisão não foi que a tecnologia não funcionasse, mas que a cidade não tinha certeza de sua adequação a um ambiente no qual um erro poderia afetar o desenvolvimento da capacidade de pensamento da criança.

A comparação não estabelece uma equivalência entre a escola e o sistema nuclear, mas evidencia um paradoxo no critério de precaução: uma única cidade pode interromper o uso de softwares em dispositivos sob seu controle, enquanto é difícil impor uma suspensão semelhante a sistemas militares distribuídos entre países que não confiam uns nos outros e que podem ser atualizados remotamente por meio de conexões criptografadas.

Os padrões internacionais e a lacuna de verificação

A Assembleia Geral das Nações Unidas adotou, em 1º de dezembro de 2025, a resolução A/RES/80/23 sobre os riscos da integração da inteligência artificial em sistemas nucleares de comando, controle e comunicações, por uma maioria de 118 votos contra 9, com 44 países se abstendo. A resolução insta os países a publicar políticas que confirmem que esses sistemas permaneçam sob controle humano e não sejam capazes de iniciar autonomamente uma decisão nuclear.

A terceira cúpula do REAIM também foi realizada em La Coruña, na Espanha, nos dias 4 e 5 de fevereiro de 2026, após as cúpulas de Haia, em 2023, e Seul, em 2024. No entanto, o documento de resultados da cúpula de 2026 recebeu o apoio de apenas 39 países, em comparação com mais de 60 países em 2024.

As avaliações citadas pelo artigo, incluindo a avaliação da Observer Research Foundation, indicam que essas iniciativas expressam uma preocupação ampla, mas não oferecem uma definição técnica verificável do conceito de «controle humano». Os documentos do REAIM também dependem da descrição, pelos países, de seu próprio cumprimento, sem um mecanismo de verificação externa.

Análise editorial: o problema não está no princípio, mas na possibilidade de comprová-lo

Parece mais realista manter a inteligência artificial fora da função de iniciar uma decisão de lançamento nuclear do que proibir seu uso em todos os sistemas militares. Mas essa separação só se torna uma garantia se for possível verificar efetivamente os limites da função. Um sistema que não lança o míssil por conta própria ainda pode influenciar profundamente a decisão ao selecionar o sinal que chega ao ser humano e determinar sua prioridade.

A conclusão imposta pelo artigo não é que todo modelo espacial levará a uma catástrofe, nem que o uso da inteligência artificial no alerta antecipado possa ser facilmente interrompido. O risco prático está, antes, na expansão contínua da dependência desses sistemas enquanto as regras de verificação e auditoria independente permanecem indefinidas. A questão em aberto é se os países passarão da declaração do princípio do controle humano à construção de mecanismos que comprovem que o ser humano realmente possui compreensão e capacidade de contestação, antes que um alerta falso teste essa lacuna.

Fonte da notícia
c
Autor

certi.news Editorial Team

Na mesma categoria

Você também pode gostar

Ver todas as notícias