Google ha ampliado la herramienta SynthID para detectar contenido generado o modificado mediante inteligencia artificial y ha lanzado un sitio específico que permite a cualquier usuario examinar imágenes, vídeos y audio en busca de la marca de agua invisible. En lugar de depender de Gemini para obtener una respuesta sobre la presencia de la marca, el usuario ahora puede subir el archivo a SynthID.com y recibir un resultado directo.
¿Qué ha cambiado?
SynthID incorpora una señal oculta dentro de los píxeles de las imágenes y los vídeos o dentro de la onda de audio. Google afirma que Gemini ha integrado esta tecnología en más de 180.000 millones de imágenes y vídeos, además del equivalente a 240.000 años de contenido de audio. Hasta ahora, los análisis realizados fuera del programa de evaluadores de confianza pasaban por Gemini, un método que no siempre resultaba práctico, especialmente cuando el usuario necesitaba una respuesta binaria clara.
La mayor limitación de la herramienta anterior de Google era que solo verificaba la versión de SynthID de Google. En cambio, el nuevo sitio admite las distintas marcas de agua de los socios de SynthID, entre ellos OpenAI, Nvidia y Kakao, y Google anuncia que Apple se incorporará próximamente. De este modo, el sitio se convierte en un único punto de comprobación, en lugar de exigir el uso de herramientas separadas para cada proveedor.
Limitaciones de uso y resultados
El sitio no muestra los detalles que estaban disponibles en la herramienta interna, como la identificación de las zonas que contienen píxeles de SynthID dentro de la imagen. En su lugar, solo informa al usuario de si la marca se utilizó para producir o modificar el contenido multimedia.
El uso del servicio requiere iniciar sesión y acepta cuentas de Google, OpenAI y Apple. Google también establece una cuota diaria de aproximadamente 10 análisis de imágenes, vídeos y audio por usuario. Según informó Ars Technica citando a ingenieros de Google, este límite pretende restringir el uso de la herramienta para desarrollar métodos destinados a eliminar o eludir SynthID. El acceso efectivo puede reducirse al analizar archivos muy similares, ya que esto podría indicar un intento de ajustar un flujo de trabajo para eludir el detector.
¿Por qué SynthID no es suficiente por sí solo?
Ampliar el acceso a SynthID facilita la verificación de las huellas de varias herramientas de inteligencia artificial, pero no convierte la herramienta en un detector universal. Algunas empresas, como Meta, utilizan técnicas de marcado diferentes, mientras que otros modelos no añaden ninguna marca de agua. Además, los modelos de pesos abiertos pueden generar contenido localmente sin una marca sencilla ni metadatos fiables.
La eliminación de la marca de agua sigue siendo una posibilidad, lo que significa que la ausencia de un resultado de SynthID no demuestra que el contenido sea original. La lectura editorial aquí indica que el valor del lanzamiento reside en reunir y ampliar los procesos de comprobación a varios socios, no en resolver definitivamente el problema de verificar la autenticidad del contenido. El enfoque opuesto, que demuestra la autenticidad de las imágenes, los vídeos y el audio en el momento de su creación mediante tecnologías criptográficas como C2PA, ofrece una vía diferente; el artículo menciona que los teléfonos Pixel se encuentran entre los dispositivos que lo aplican.