Mecanismo que deja un patrón detectable en una secuencia de palabras para estimar la probabilidad de que un modelo de inteligencia artificial haya participado en la generación del texto.
OpenAI ha lanzado el sistema textGrain para integrar una señal estadística en los textos generados a través de la API, manteniendo la función desactivada de forma predeterminada y ofreciendo a los clientes la opción de activarla a nivel de proyecto u organización. La empresa afirma que la eficacia de la detección disminuye cuando el texto es corto o se edita, y que el código representa un caso más difícil, mientras que comenzará a etiquetar automáticamente los textos elegibles en ChatGPT y Codex dentro de la Unión Europea durante las próximas semanas.
Anthropic tiene previsto añadir una marca de agua invisible a los textos generados por los modelos Claude, lo que permitirá estimar la probabilidad de que Claude haya participado en su redacción sin afectar prácticamente a la calidad ni al coste. La empresa afirma que la medida responde al cumplimiento de la Ley de Inteligencia Artificial europea, con un lanzamiento mundial de la marca cuando esté disponible.
En los días posteriores al anuncio de Anthropic de que había activado marcas de agua invisibles en los textos generados por Claude, aparecieron varios proyectos de código abierto y servicios comerciales que afirman poder eludirlas. Sin embargo, actualmente no es posible verificar esas afirmaciones, ya que Anthropic no ha publicado el mecanismo de la marca ni una herramienta para detectarla.