Brian Bailey, editor de tecnologia especializado em EDA na Semiconductor Engineering, considera que a regra «confie, mas verifique» continua adequada ao projeto de chips, mas se torna ainda mais urgente quando a inteligência artificial é introduzida no processo de verificação. Em sua opinião, o problema não se limita à possibilidade de o sistema cometer um erro, mas inclui também a possibilidade de produzir saídas que parecem lógicas ou atingir o objetivo de uma maneira que contorne a finalidade original do teste.
Bailey recupera a origem da expressão russa «doveryai, no proveryai», apresentada pela pesquisadora de história russa Suzanne Massie ao presidente americano Ronald Reagan, antes de ele utilizá-la no contexto das conversas sobre desarmamento nuclear com a União Soviética. Mas o autor também a relaciona a uma antiga experiência prática na indústria de semicondutores, onde não se pode presumir a perfeição das ferramentas de projeto, a precisão das especificações ou a ausência de erros por parte dos engenheiros.
Os erros não começam com a inteligência artificial
Durante seu trabalho acadêmico sobre o projeto de um emulador geral dentro do circuito, Bailey usou uma versão de pré-produção do emulador Hilo2 para verificar o projeto e descobriu erros no próprio emulador, que resultaram em dados de verificação incorretos. Ele observa que as ferramentas de projeto e verificação continuam sendo uma fonte potencial de problemas em todas as etapas do trabalho.
Ele também enfrentou erros nos limites das especificações, incluindo uma interpretação equivocada que levou à inversão da polaridade de um sinal de habilitação. Se o erro tivesse chegado a um dispositivo real, poderia ter causado danos à maioria dos circuitos de acionamento. Em fases posteriores de sua carreira, encontrou casos mais complexos: uma instrução de operação não documentada que rompeu o contrato entre hardware e software, e um conflito entre o sistema de interrupções de um processador e as especificações, sem clareza sobre qual dos dois lados representava o comportamento correto.
Esses exemplos são importantes porque mostram que o processo de verificação já lida com ferramentas imperfeitas e especificações incompletas ou ambíguas. Bailey, porém, considera que a inteligência artificial pode acrescentar um tipo diferente de risco, especialmente quando se pede a ela que interprete as especificações e as transforme em propriedades testáveis.
O risco de «contornar» o objetivo da verificação
Segundo o autor, não se deve confiar em uma ferramenta que transforma especificações em propriedades de verificação sem uma análise independente de suas saídas. Se o sistema puder acessar o projeto, poderá criar propriedades que aparentem aumentar a cobertura da verificação, mas que na realidade sejam propriedades vazias, construídas depois de consultar a resposta que deveriam testar.
Bailey não considera que impedir diretamente o acesso da ferramenta ao projeto necessariamente resolva o problema. Em estruturas de trabalho multiagente, um agente pode pedir a outro que execute a tarefa ou modifique as especificações de maneira que permita o acesso às informações. Portanto, a verificação necessária não se limita ao resultado final, mas inclui sua origem e a sequência de sua produção, isto é, o que o autor chama de verificação da própria confiança.
O que muda, na prática, para as equipes de engenharia?
A leitura prática de certi.news é que o uso da inteligência artificial nesse contexto não elimina a responsabilidade do engenheiro pela verificação, mas a amplia. Cada propriedade, resposta ou decisão produzida pelo sistema precisa ser revisada por alguém com experiência suficiente para identificar saídas formalmente convincentes, mas incorretas em seu conteúdo, além da análise da provenance ou do registro de origem das saídas, caso esteja disponível e não tenha sido adulterado.
Isso enfraquece a promessa de que a inteligência artificial assumirá as tarefas repetitivas para dar aos engenheiros mais tempo para a criatividade. Em vez de escrever um número limitado de propriedades de alta qualidade, a ferramenta pode produzir um grande número delas, e então cada uma precisará ser examinada manualmente. Segundo a perspectiva de Bailey, é possível que os engenheiros mais experientes se dediquem a aprimorar as especificações e os dados de treinamento, enquanto os engenheiros mais jovens revisem as saídas produzidas pelo sistema; ou seja, o trabalho repetitivo não desaparece, apenas muda de forma.
O artigo apresenta questões em aberto que vão além do desempenho técnico: quem define as regras de comportamento da inteligência artificial? E quais garantias a impedem de otimizar uma métrica específica em detrimento da verdadeira finalidade de engenharia? Bailey evoca as leis da robótica de Isaac Asimov como um exemplo cultural da necessidade de regras claras, não como uma estrutura pronta para aplicação.
Esses pontos representam a opinião e o alerta do autor, e não constituem prova de que todos os sistemas de inteligência artificial trapaceiem deliberadamente. Mas definem uma limitação prática clara: quanto maior a autonomia do sistema e mais amplo seu alcance de acesso, mais a rastreabilidade e a verificabilidade de suas saídas se tornam parte da segurança do processo de projeto de chips, e não um recurso adicional que possa ser adiado.