OpenAI comenzará durante las próximas semanas a añadir una marca de agua invisible a los textos generados por ChatGPT y Codex para los usuarios elegibles dentro de la Unión Europea, en una medida destinada a cumplir las normas de transparencia previstas en la Ley de Inteligencia Artificial europea. El lanzamiento incluirá todos los planes, aunque el marcado de textos no se convertirá en una configuración predeterminada a nivel mundial al principio.
Las normas de transparencia entraron en vigor el 2 de agosto y obligan a las empresas de inteligencia artificial a distinguir el contenido generado automáticamente de una manera que permita a otros sistemas reconocerlo. Por otro lado, los desarrolladores que utilizan la interfaz de programación de OpenAI en cualquier parte del mundo pueden activar la función en modelos específicos a partir de ahora, aunque está desactivada de forma predeterminada.
¿Cómo funciona la marca de agua?
La marca no aparece como un símbolo o una alerta visible, sino que se crea mediante una modificación precisa de las opciones de palabras que propone el modelo. Esta modificación deja un patrón que una herramienta de detección especializada puede identificar, y el patrón permanece en el texto al copiarlo y pegarlo. OpenAI afirma que la marca no revela la identidad del usuario y que su activación no produjo un cambio significativo en el rendimiento de los modelos durante las pruebas de la empresa.
OpenAI publicó simultáneamente un informe técnico sobre su método, denominado textGrain, elaborado por investigadores de la empresa y de las universidades de Pensilvania y Yale. Según el informe, el método se basa en utilizar una clave secreta para ordenar las probabilidades de las palabras siguientes durante la finalización de las frases y, después, agrupar cientos de estas modificaciones para que el detector pueda identificar el patrón utilizando el texto y la clave.
Límites de la detección después de la edición
La marca de agua no ofrece una prueba concluyente del origen del texto en todos los casos. En una prueba realizada por OpenAI, sustituir el 10% de las palabras por sinónimos redujo la tasa de detección de aproximadamente el 92% al 66%. La empresa también constató que los fragmentos breves, las respuestas matemáticas y los textos traducidos son más difíciles de detectar.
OpenAI advierte que la ausencia de la marca no demuestra que el texto haya sido escrito por un ser humano; el texto puede ser demasiado breve, haber sido sometido a una edición intensa o proceder de un sistema de inteligencia artificial de otra empresa. Asimismo, la presencia de la marca puede indicar que un sistema de OpenAI generó o procesó una parte del fragmento, pero no determina cuánto criterio humano, edición o creatividad intervino en su producción.
¿Por qué es importante esta noticia?
El lanzamiento proporciona a las instituciones europeas un medio técnico adicional para examinar contenido de ChatGPT y Codex, pero por sí solo no resuelve el problema de demostrar el origen del texto. La susceptibilidad a la edición y a la traducción, así como la longitud del texto, significa que los resultados de la detección requieren una interpretación cuidadosa, lo que llevó a OpenAI a limitar inicialmente el acceso a las herramientas de detección a investigadores acreditados y organizaciones especializadas para evaluar su fiabilidad y sus usos responsables.
La medida llega después de que Anthropic anunciara hace dos meses el marcado de los textos generados por Claude en todo el mundo, una decisión que recibió objeciones de algunos usuarios que consideraron que su contribución a las instrucciones, el contexto y las decisiones convierte a Claude en una herramienta y no en un autor. OpenAI ya había desarrollado una tecnología anterior para marcar textos, pero se abstuvo de lanzarla por temor a que los usuarios migraran a competidores que no utilizaran la marca, según un informe publicado por The Wall Street Journal en 2024.