A OpenAI começará, nas próximas semanas, a adicionar uma marca d’água invisível aos textos gerados pelo ChatGPT e pelo Codex para usuários elegíveis dentro da União Europeia, em uma medida destinada a cumprir as regras de transparência previstas no Regulamento Europeu de Inteligência Artificial. O lançamento abrangerá todos os planos, enquanto a marcação de textos não se tornará uma configuração global padrão no início.
As regras de transparência entraram em vigor em 2 de agosto e obrigam as empresas de inteligência artificial a identificar o conteúdo gerado automaticamente de uma forma que permita a outros sistemas reconhecê-lo. Em contrapartida, desenvolvedores que usam a API da OpenAI em qualquer lugar do mundo podem ativar o recurso em modelos específicos a partir de agora, mas ele vem desativado por padrão.
Como funciona a marca d’água?
A marca não aparece como um símbolo ou alerta visível, mas é criada por meio de uma alteração precisa nas escolhas de palavras sugeridas pelo modelo. Essa alteração deixa um padrão que uma ferramenta de detecção especializada pode identificar, e o padrão permanece no texto quando ele é copiado e colado. A OpenAI afirma que a marca não revela a identidade do usuário e que sua ativação não provocou uma mudança significativa no desempenho dos modelos durante os testes da empresa.
A OpenAI publicou simultaneamente um relatório técnico sobre seu método, chamado textGrain, elaborado por pesquisadores da empresa e das universidades da Pensilvânia e Yale. Segundo o relatório, o método depende do uso de uma chave secreta para ordenar as probabilidades das palavras seguintes durante a conclusão das frases e, em seguida, agrupar centenas dessas alterações para que o detector possa identificar o padrão usando o texto e a chave.
Limites da detecção após a edição
A marca d’água não oferece uma prova conclusiva da origem do texto em todos os casos. Em um teste realizado pela OpenAI, a substituição de 10% das palavras por sinônimos reduziu a taxa de detecção de cerca de 92% para 66%. A empresa também constatou que trechos curtos, respostas matemáticas e textos traduzidos são mais difíceis de detectar.
A OpenAI alerta que a ausência da marca não prova que o texto foi escrito por um ser humano; o texto pode ser curto demais, ter passado por uma edição intensa ou ser resultado de um sistema de inteligência artificial de outra empresa. Da mesma forma, a presença da marca pode indicar que um sistema da OpenAI criou ou processou parte do trecho, mas não determina quanto julgamento, edição ou criatividade humana entrou em sua produção.
Por que esta notícia é importante?
O lançamento oferece às instituições europeias um recurso técnico adicional para examinar o conteúdo do ChatGPT e do Codex, mas não resolve sozinho o problema de comprovar a origem do texto. A suscetibilidade à edição, à tradução e ao comprimento do texto significa que os resultados da detecção precisam ser interpretados com cautela, o que levou a OpenAI a limitar o acesso inicial às ferramentas de detecção a pesquisadores credenciados e organizações especializadas, para avaliar sua confiabilidade e seus usos responsáveis.
A medida ocorre dois meses depois de a Anthropic anunciar a marcação, em todo o mundo, dos textos produzidos pelo Claude, uma decisão que enfrentou objeções de alguns usuários que consideraram que sua contribuição para as instruções, o contexto e as decisões torna o Claude uma ferramenta, não um autor. A OpenAI já havia desenvolvido uma tecnologia anterior para marcar textos, mas hesitou em lançá-la, em meio a preocupações de que os usuários migrassem para concorrentes que não utilizassem a marcação, segundo um relatório publicado pelo The Wall Street Journal em 2024.