A OpenAI anunciou a disponibilização do sistema textGrain para marcar textos produzidos por seus modelos por meio da interface de API, mas o recurso permanecerá desativado por padrão. Os clientes de todo o mundo podem ativá-lo hoje nos modelos compatíveis, no nível do projeto ou da organização, sem modificar solicitações individuais da API.
O sistema baseia-se na inserção de um «sinal estatístico» no texto, dando mais peso a palavras adequadas em vez de outras alternativas quando ambas as opções fazem sentido no contexto. Com o acúmulo dessas escolhas em um texto suficientemente longo, o detector da OpenAI deve conseguir reconhecer o padrão.
Uma escolha diferente da Anthropic
A OpenAI dá aos clientes da API um controle maior do que a abordagem anunciada pela Anthropic para os modelos Claude em agosto. A Anthropic afirmou que a marcação seria aplicada globalmente aos modelos compatíveis e no nível do modelo, incluindo os produtos Claude e Claude Code e o uso da API, sem esclarecer uma opção semelhante para que os desenvolvedores a desativassem.
Segundo a OpenAI, nas próximas semanas começará a aplicação automática da marcação aos textos elegíveis produzidos pelo ChatGPT e pelo Codex dentro da União Europeia, em resposta aos requisitos de transparência da Lei Europeia de Inteligência Artificial. A empresa ainda não especificou exatamente o que significa «saídas elegíveis» no Codex.
A eficácia da detecção não é constante
A OpenAI afirma que seu detector identifica cerca de 80% dos trechos marcados com 200 tokens, e que a proporção sobe para 95% em trechos de 400 tokens em áreas como psicologia, com uma taxa-alvo de falsos positivos de 1%. A capacidade de detecção diminui em materiais restritos, como matemática, nos quais o modelo dispõe de menos opções para escolher as palavras.
A edição do texto também enfraquece claramente o sinal. Nos testes da empresa, substituir 10% das palavras de um trecho de 400 tokens por sinônimos reduziu a taxa de detecção de cerca de 92% para 66%, enquanto substituir 25% a reduziu para 17%. A OpenAI também alerta que trechos curtos podem não conter material suficiente para uma detecção confiável.
O código é um caso de teste mais difícil
A OpenAI reconhece que o código é mais difícil de marcar do que a prosa comum, porque as restrições sintáticas e lógicas reduzem o número de opções razoáveis para a palavra ou o token seguinte. A empresa afirma ter comparado o modelo Astra com o textGrain ativado e desativado nos testes DeepSWE, AutomationBench e Terminal-Bench, sem encontrar uma diferença significativa no desempenho. No entanto, esses resultados não comprovam quão confiável é a identificação de código marcado depois de ele ser modificado ou reformatado.
Até agora, os clientes da API que ativam o textGrain não recebem automaticamente uma ferramenta de detecção. A OpenAI restringe o acesso inicial ao detector a entidades de pesquisa e acadêmicas credenciadas que estudam a origem dos textos e a confiabilidade da detecção, enquanto o The New Stack pediu à empresa detalhes adicionais sobre as saídas elegíveis do Codex e as taxas de detecção específicas para código.
Por que esta notícia é importante?
A mudança prática para os desenvolvedores é que a marcação de texto se tornou uma opção administrável, em vez de um comportamento imposto a todas as saídas da API. Mas os números publicados indicam que a marcação não é, por si só, uma prova conclusiva: textos mais curtos e edições reduzem a possibilidade de detecção, e o código pode não oferecer espaço suficiente para inserir o sinal. Portanto, o escopo de uso do detector, a possibilidade de acesso a ele e o desempenho do sistema em código real continuam sendo questões em aberto.