OpenAI anunció la disponibilidad del sistema textGrain para etiquetar los textos producidos por sus modelos a través de la interfaz de la API, aunque la función seguirá desactivada de forma predeterminada. Los clientes de todo el mundo pueden activarla hoy en los modelos compatibles, ya sea a nivel de proyecto u organización, sin modificar las solicitudes individuales de la API.
El sistema se basa en introducir una «señal estadística» en el texto ponderando palabras adecuadas frente a otras alternativas cuando ambas opciones son lógicas en el contexto. A medida que estas elecciones se acumulan en un texto lo bastante largo, el detector de OpenAI debería poder reconocer el patrón.
Una elección diferente a la de Anthropic
OpenAI ofrece a los clientes de la API un mayor control que el enfoque que Anthropic anunció para los modelos Claude en agosto. Anthropic afirmó que la etiqueta se aplicaría globalmente a los modelos compatibles y a nivel del modelo, incluidos los productos Claude y Claude Code y el uso de la API, sin aclarar una opción similar para que los desarrolladores la desactivaran.
Según OpenAI, durante las próximas semanas comenzará a aplicarse automáticamente la etiqueta a los textos elegibles producidos por ChatGPT y Codex dentro de la Unión Europea, en respuesta a los requisitos de transparencia de la Ley de IA europea. La empresa aún no ha precisado qué se entiende exactamente por «salidas elegibles» en Codex.
La eficacia de la detección no es constante
OpenAI afirma que su detector identifica alrededor del 80% de los fragmentos etiquetados de 200 tokens, y que el porcentaje aumenta al 95% en fragmentos de 400 tokens dentro de ámbitos como la psicología, con una tasa objetivo de falsos positivos del 1%. La capacidad de detección disminuye en materiales restringidos, como las matemáticas, donde el modelo dispone de menos opciones para elegir las palabras.
La edición del texto también debilita claramente la señal. En las pruebas de la empresa, sustituir el 10% de las palabras de un fragmento de 400 tokens por sinónimos redujo la tasa de detección de aproximadamente el 92% al 66%, mientras que sustituir el 25% la redujo al 17%. OpenAI también advierte de que los fragmentos cortos quizá no contengan material suficiente para una detección fiable.
El código es un caso de prueba más difícil
OpenAI reconoce que el código es más difícil de etiquetar que la prosa normal, porque las restricciones sintácticas y lógicas reducen el número de opciones razonables para la siguiente palabra o símbolo. La empresa afirma que comparó el modelo Astra con textGrain activado y desactivado mediante las pruebas DeepSWE, AutomationBench y Terminal-Bench, y no encontró una diferencia significativa en el rendimiento. Sin embargo, estos resultados no demuestran hasta qué punto es fiable identificar código etiquetado después de modificarlo o reformatearlo.
Por ahora, los clientes de la API que activan textGrain no reciben automáticamente una herramienta de detección. OpenAI limita el acceso inicial al detector a entidades de investigación y académicas acreditadas que estudian el origen de los textos y la fiabilidad de la detección, mientras que The New Stack ha pedido a la empresa detalles adicionales sobre las salidas elegibles de Codex y las tasas de detección específicas del código.
¿Por qué importa esta noticia?
El cambio práctico para los desarrolladores es que el etiquetado de texto se ha convertido en una opción gestionable, en lugar de ser un comportamiento impuesto a todas las salidas de la API. Sin embargo, las cifras publicadas indican que la etiqueta no constituye por sí sola una prueba concluyente: acortar y editar el texto reducen su detectabilidad, y el código quizá no ofrezca espacio suficiente para introducir la señal. Por ello, siguen abiertas cuestiones sobre el alcance de uso del detector, la posibilidad de acceder a él y el rendimiento del sistema con código real.