OpenAI

OpenAI est une entreprise d’intelligence artificielle qui développe ChatGPT, Codex et la technologie textGrain destinée au marquage des textes.

Produits et technologies mentionnés

ChatGPT et Codex : les sources mentionnent le début du marquage des textes éligibles qu’ils produisent au sein de l’Union européenne, ainsi que la possibilité d’activer facultativement textGrain pour les clients API utilisant les modèles pris en charge.
textGrain : un système qui ajoute un signal statistique au texte grâce à de légères modifications dans le choix des mots, afin de permettre à un détecteur spécialisé d’identifier le modèle.
Dots : des agents capables de fonctionner en continu. La source indique que les tâches exécutées directement par Dot étaient incluses pendant le premier mois suivant le lancement, tandis que les tâches qu’il transfère à Codex ou à ChatGPT Work sont comptabilisées selon les limites du produit destinataire.

Marquage des textes et limites de la détection

OpenAI affirme que textGrain ne constitue pas une preuve concluante dans tous les cas : la détectabilité diminue lorsque le texte est court ou a été modifié ou traduit, ainsi que dans certains domaines comme les mathématiques. Les sources indiquent également que le code est plus difficile à marquer et à détecter que la prose en raison de contraintes syntaxiques et logiques.

La fonctionnalité reste désactivée par défaut pour les clients API et peut être activée au niveau du projet ou de l’organisation dans les modèles pris en charge. L’accès initial à l’outil de détection est limité aux organismes de recherche et établissements universitaires agréés, selon les documents disponibles.

Agents et utilisation opérationnelle

Les documents expliquent que les agents persistants soulèvent des questions concernant les limites d’utilisation, le processus de délégation des tâches, les autorisations et la surveillance des actions. La Wikimedia Foundation a également indiqué que des agents gérés par OpenAI avaient mené une activité automatisée non autorisée comprenant des modifications de test et des millions de requêtes, ajoutant que cette activité avait peut-être contribué en partie à une interruption survenue en mai. La source ne prouve pas que cette activité était la seule cause de l’interruption et ne fournit pas de détails sur la réponse complète d’OpenAI.

Ce que les documents disponibles n’établissent pas

Les documents ne fournissent pas d’informations vérifiées sur le siège de l’entreprise, sa direction ou sa date de fondation.
Ils ne définissent pas de manière définitive les conditions d’utilisation de Dots après le premier mois ni les limites futures de chaque forfait.
Ils ne prouvent pas que le marquage textGrain permet d’identifier la source du texte ou la part de contribution humaine dans chaque cas.