A Google ampliou a ferramenta SynthID para detectar conteúdo gerado ou alterado por inteligência artificial e lançou um site dedicado que permite a qualquer usuário verificar imagens, vídeos e áudios em busca da marca d’água invisível. Em vez de depender do Gemini para obter uma resposta sobre a presença da marca, o usuário agora pode enviar o arquivo para o SynthID.com e receber um resultado direto.
O que mudou?
O SynthID incorpora um sinal oculto aos pixels de imagens e vídeos ou à onda sonora. A Google afirma que o Gemini integrou essa tecnologia a mais de 180 bilhões de imagens e vídeos, além do equivalente a 240 mil anos de conteúdo de áudio. Antes, as verificações fora do programa de testadores confiáveis passavam pelo Gemini, um método que nem sempre era prático, especialmente quando o usuário precisava de uma resposta binária clara.
A maior limitação da ferramenta anterior da Google era verificar apenas a versão do SynthID da própria Google. Já o novo site é compatível com as diferentes marcas d’água dos parceiros do SynthID, entre eles OpenAI, Nvidia e Kakao, com a adesão da Apple prevista, segundo um anúncio da Google. Assim, o site se torna um único ponto de verificação, em vez de exigir o uso de ferramentas separadas para cada provedor.
Limitações de uso e resultados
O site não exibe os detalhes que estavam disponíveis na ferramenta interna, como a identificação das áreas que contêm pixels do SynthID na imagem. Em vez disso, informa apenas se a marca foi usada para produzir ou alterar a mídia.
O uso do serviço exige login, e ele aceita contas da Google, da OpenAI e da Apple. A Google também estabelece uma cota diária de cerca de 10 verificações de imagens, vídeos e áudios por usuário. De acordo com o que a Ars Technica relatou, citando engenheiros da Google, o objetivo dessa limitação é restringir o uso da ferramenta para desenvolver métodos de remoção ou evasão do SynthID. O acesso efetivo pode diminuir ao verificar arquivos muito semelhantes, pois isso pode indicar uma tentativa de ajustar um fluxo de trabalho para contornar o detector.
Por que o SynthID sozinho não é suficiente?
A ampliação do acesso ao SynthID facilita a verificação das marcas digitais de várias ferramentas de inteligência artificial, mas não transforma a ferramenta em um detector abrangente. Algumas empresas, como a Meta, usam técnicas de marcação diferentes, enquanto outros modelos não adicionam nenhuma marca d’água. Além disso, modelos de pesos abertos podem produzir conteúdo localmente sem uma marca simples ou metadados confiáveis.
A remoção da marca d’água continua sendo uma possibilidade, o que significa que a ausência de um resultado do SynthID não prova que o conteúdo seja original. A leitura editorial aqui indica que o valor do lançamento está em reunir e ampliar as verificações para vários parceiros, e não em resolver definitivamente o problema da verificação da autenticidade do conteúdo. Já a abordagem oposta, que comprova a autenticidade de imagens, vídeos e áudios no momento de sua criação usando tecnologias criptográficas como a C2PA, oferece um caminho diferente; o texto menciona que os telefones Pixel estão entre os dispositivos que a aplicam.