Términos

Marca de agua de texto

Mecanismo que deja un patrón detectable en una secuencia de palabras para estimar la probabilidad de que un modelo de inteligencia artificial haya participado en la generación del texto.

Última cobertura

CN
OpenAI permite etiquetar opcionalmente los textos generados a través de la API y advierte de la dificultad de detectarlos en el código

OpenAI permite etiquetar opcionalmente los textos generados a través de la API y advierte de la dificultad de detectarlos en el código

OpenAI ha lanzado el sistema textGrain para integrar una señal estadística en los textos generados a través de la API, manteniendo la función desactivada de forma predeterminada y ofreciendo a los clientes la opción de activarla a nivel de proyecto u organización. La empresa afirma que la eficacia de la detección disminuye cuando el texto es corto o se edita, y que el código representa un caso más difícil, mientras que comenzará a etiquetar automáticamente los textos elegibles en ChatGPT y Codex dentro de la Unión Europea durante las próximas semanas.

CN
Anthropic explica el mecanismo de la marca de agua en los textos de Claude

Anthropic explica el mecanismo de la marca de agua en los textos de Claude

Anthropic tiene previsto añadir una marca de agua invisible a los textos generados por los modelos Claude, lo que permitirá estimar la probabilidad de que Claude haya participado en su redacción sin afectar prácticamente a la calidad ni al coste. La empresa afirma que la medida responde al cumplimiento de la Ley de Inteligencia Artificial europea, con un lanzamiento mundial de la marca cuando esté disponible.

CN
Las herramientas para eliminar marcas de agua de textos de inteligencia artificial se propagan sin pruebas de su eficacia

Las herramientas para eliminar marcas de agua de textos de inteligencia artificial se propagan sin pruebas de su eficacia

En los días posteriores al anuncio de Anthropic de que había activado marcas de agua invisibles en los textos generados por Claude, aparecieron varios proyectos de código abierto y servicios comerciales que afirman poder eludirlas. Sin embargo, actualmente no es posible verificar esas afirmaciones, ya que Anthropic no ha publicado el mecanismo de la marca ni una herramienta para detectarla.