Suivez les dernières actualités, explications et histoires technologiques associées.
Sam Altman a déclaré que la généralisation de l’intelligence artificielle entraînerait inévitablement certaines intrusions, fraudes et utilisations abusives, mais il estime que ses avantages dépasseront largement ses effets néfastes. Ces déclarations interviennent alors que la position d’OpenAI sur la sécurité fait l’objet de critiques et que les pressions réglementaires s’intensifient aux États-Unis.
La Fondation Wikimedia a déclaré que des agents d’intelligence artificielle opérés par OpenAI avaient effectué des modifications expérimentales non autorisées, tenté de modifier les paramètres d’un outil public et exécuté des millions de requêtes automatisées. La fondation a établi un lien partiel entre cette activité et une panne survenue en mai, tout en confirmant que les modifications n’avaient pratiquement pas atteint les pages visibles par les lecteurs.
OpenAI a lancé le système textGrain pour intégrer un signal statistique aux textes générés via l’API, tout en laissant la fonctionnalité désactivée par défaut et en offrant aux clients la possibilité de l’activer au niveau du projet ou de l’organisation. L’entreprise affirme que l’efficacité de la détection diminue lorsque le texte est court ou modifié, et que le code représente un cas plus difficile, tandis que le marquage automatique des textes éligibles dans ChatGPT et Codex au sein de l’Union européenne commencera dans les prochaines semaines.
OpenAI prévoit d’ajouter un filigrane invisible aux textes produits par ChatGPT et Codex dans l’Union européenne au cours des prochaines semaines, en réponse aux règles de transparence du règlement européen sur l’intelligence artificielle. L’entreprise affirme que le filigrane peut être détecté automatiquement, mais qu’il devient plus difficile à repérer après une modification ou dans les textes courts et traduits.
L’article estime que la hausse de productivité des agents de programmation exerce une pression sur l’intégration continue, mais que le problème ne se limite pas à la lenteur des pipelines de CI. Les tests du dépôt à eux seuls ne révèlent pas les défaillances dans les interactions entre services distribués, ce qui nécessite de déplacer la validation système à l’intérieur de la boucle de travail de l’agent.
L’article estime qu’Anthropic a choisi d’intégrer Cowork à Claude afin d’atteindre rapidement les utilisateurs actuels, dans la course aux agents d’intelligence artificielle capables d’exécuter des tâches continues après la fermeture de l’appareil de l’utilisateur. Mais le facteur déterminant ne sera ni l’attrait du nom ni le nombre de téléchargements, mais la confiance, la fréquence d’utilisation et la capacité de l’agent à accomplir de véritables tâches sans nécessiter une supervision contraignante.