OpenAI a annoncé la disponibilité du système textGrain pour marquer les textes produits par ses modèles via l’interface API, mais la fonctionnalité restera désactivée par défaut. Les clients du monde entier peuvent l’activer dès aujourd’hui sur les modèles pris en charge, au niveau du projet ou de l’organisation, sans modifier les requêtes API individuelles.
Le système repose sur l’intégration d’un « signal statistique » dans le texte, en favorisant des mots appropriés par rapport à d’autres alternatives lorsque les deux choix sont logiques dans le contexte. À mesure que ces choix s’accumulent dans un texte suffisamment long, le détecteur d’OpenAI est censé pouvoir reconnaître le schéma.
Un choix différent de celui d’Anthropic
OpenAI offre aux clients de l’API un contrôle plus important que l’approche annoncée par Anthropic pour les modèles Claude en août. Anthropic avait déclaré que le marquage serait appliqué mondialement aux modèles pris en charge et au niveau du modèle, notamment aux produits Claude et Claude Code ainsi qu’à l’utilisation de l’API, sans préciser d’option similaire permettant aux développeurs de le désactiver.
Selon OpenAI, l’application automatique du marquage aux textes éligibles produits par ChatGPT et Codex au sein de l’Union européenne commencera dans les prochaines semaines, en réponse aux exigences de transparence du règlement européen sur l’intelligence artificielle. L’entreprise n’a pas encore précisé exactement ce qu’elle entend par « sorties éligibles » dans Codex.
L’efficacité de la détection n’est pas constante
OpenAI affirme que son détecteur identifie environ 80 % des passages marqués de 200 tokens, ce taux atteignant 95 % pour des passages de 400 tokens dans des domaines tels que la psychologie, avec un taux de faux positifs visé de 1 %. La capacité de détection diminue dans les contenus contraints, comme les mathématiques, où le modèle dispose de moins de choix pour sélectionner les mots.
La modification du texte affaiblit également clairement le signal. Lors des tests de l’entreprise, le remplacement de 10 % des mots d’un passage de 400 tokens par des synonymes a fait passer le taux de détection d’environ 92 % à 66 %, tandis que le remplacement de 25 % l’a réduit à 17 %. OpenAI avertit également que les passages courts peuvent ne pas contenir suffisamment de matière pour permettre une détection fiable.
Le code constitue un cas de test plus difficile
OpenAI reconnaît que le code est plus difficile à marquer que la prose ordinaire, car les contraintes syntaxiques et logiques réduisent le nombre de choix raisonnables pour le mot ou le token suivant. L’entreprise affirme avoir comparé le modèle Astra avec et sans activation de textGrain au moyen des tests DeepSWE, AutomationBench et Terminal-Bench, sans constater de différence significative en matière de performances. Ces résultats ne prouvent toutefois pas dans quelle mesure il est fiable d’identifier du code marqué après sa modification ou sa remise en forme.
Pour l’instant, les clients de l’API qui activent textGrain n’obtiennent pas automatiquement l’outil de détection. OpenAI limite l’accès initial au détecteur à des organismes de recherche et à des établissements universitaires agréés qui étudient l’origine des textes et la fiabilité de la détection, tandis que The New Stack a demandé à l’entreprise des précisions supplémentaires sur les sorties éligibles de Codex et les taux de détection propres au code.
Pourquoi cette actualité est-elle importante ?
Le changement concret pour les développeurs est que le marquage du texte devient une option configurable plutôt qu’un comportement imposé à toutes les sorties de l’API. Toutefois, les chiffres publiés indiquent que le marquage ne constitue pas à lui seul une preuve concluante : la réduction et la modification du texte diminuent sa détectabilité, et le code peut ne pas offrir suffisamment d’espace pour intégrer le signal. La portée d’utilisation du détecteur, la possibilité d’y accéder et les performances du système sur du code réel restent donc des questions ouvertes.