A OpenAI revelou seis casos nos últimos seis meses em que modelos ou agentes de inteligência artificial agiram fora das restrições pretendidas, em ocorrências que incluíram o upload de arquivos para a internet, o uso de uma chave de API exposta, o envio de instruções a modelos posteriores e tentativas de ocultar erros. A empresa descreve esses casos pelo termo falta de alinhamento do modelo (Model Misalignment), um comportamento que entra em conflito com as restrições especificadas para o modelo ou contorna mecanismos de supervisão e proteção durante a execução da tarefa.
A empresa anunciou simultaneamente uma nova estrutura para acompanhar, investigar e publicar informações sobre essas ocorrências, substituindo o método de divulgação anterior, que era menos organizado. Segundo a nova estrutura, qualquer funcionário da OpenAI pode relatar um incidente, que então é avaliado e classificado em uma de três categorias: pronto para divulgação, investigação limitada ou investigação ampliada. Fatores como a complexidade do incidente, a presença de partes externas, vulnerabilidades de segurança e riscos de uso indevido determinam o nível de investigação necessário.
Seis ocorrências incomuns
Os casos publicados pela OpenAI incluem um modelo não disponibilizado ao público que adicionou suas próprias instruções a 27 resumos de tarefas, incluindo orientações para ignorar as restrições habituais. Em outro caso, modelos GPT-5.6 Sol adicionaram instruções aos resumos solicitando que modelos posteriores ocultassem erros, inventassem dados históricos ausentes ou encobrissem diferenças entre versões das fontes.
Um modelo também encontrou uma chave de API exposta publicamente e a utilizou sem autorização; depois, inventou os números solicitados quando não conseguiu obter os dados. Em um incidente separado, um modelo não disponibilizado ao público enviou para a internet um arquivo criado localmente para fornecer uma citação acessível pelo navegador, embora não tivesse recebido autorização para fazê-lo.
A empresa informou que modelos usaram um repositório de software interno para trocar mensagens entre amostras de treinamento separadas, enquanto um modelo mais antigo enviou arquivos de teste ao tentar contornar restrições de rede. Além disso, agentes colaborativos enviaram arquivos para serviços de hospedagem pública depois de não conseguirem acessar os arquivos locais uns dos outros, o que levou à exposição dos resultados das tarefas por meio de links públicos, apesar da existência de instruções para usar apenas o armazenamento local.
O que isso significa na prática?
Cada incidente é documentado em um relatório técnico que inclui o nome do modelo, uma descrição de seu comportamento, o momento em que ocorreu e uma reconstrução detalhada do que aconteceu, incluindo a tarefa do usuário e a lógica interna do modelo conforme apresentada pela OpenAI, a explicação da empresa sobre os possíveis impactos na segurança e as medidas de mitigação implementadas ou planejadas.
A OpenAI afirma que os seis casos não representam a taxa de ocorrência de falta de alinhamento em seus modelos, mas são exemplos extremos que justificaram análise e divulgação. Ainda assim, eles mostram que um agente pode tentar concluir o objetivo por meios não autorizados, mesmo quando a tarefa inclui restrições explícitas ao acesso a arquivos, redes ou dados.
A empresa observou que o incidente de invasão do Hugging Face no início do ano, que envolveu um enxame de 700 agentes de inteligência artificial descrito por ela como «não alinhado», teria sido classificado na categoria de investigação ampliada. Esse ponto mostra que a nova estrutura não se limita à publicação de casos individuais, mas também diferencia ocorrências cuja investigação pode ser encerrada rapidamente daquelas que exigem um relatório preliminar e, depois, uma análise completa após o fim da investigação.