Um mecanismo que deixa um padrão detectável em uma sequência de palavras para estimar a probabilidade de participação de um modelo de inteligência artificial na geração do texto.
A OpenAI lançou o sistema textGrain para incorporar um sinal estatístico aos textos gerados por meio da API, mantendo o recurso desativado por padrão e dando aos clientes a opção de ativá-lo no nível do projeto ou da organização. A empresa afirma que a eficácia da detecção diminui com textos curtos ou editados e que o código representa um caso mais difícil, enquanto começará a marcar automaticamente textos elegíveis no ChatGPT e no Codex dentro da União Europeia nas próximas semanas.
A Anthropic pretende adicionar uma marca d’água invisível aos textos gerados pelos modelos Claude, permitindo estimar a probabilidade de participação do Claude na redação sem afetar praticamente a qualidade ou o custo. A empresa afirma que a medida atende à Lei Europeia de Inteligência Artificial, com lançamento global da marca quando estiver disponível.
Dias após a Anthropic anunciar a ativação de marcas d’água invisíveis nos textos produzidos pelo Claude, surgiram diversos projetos de código aberto e serviços comerciais que afirmam contornar essas marcas. No entanto, atualmente não é possível verificar essas alegações, pois a Anthropic ainda não publicou o mecanismo da marca nem uma ferramenta para detectá-la.