Sujets

Sécurité des agents IA

Sécurité des agents capables d’utiliser le navigateur et Internet et d’exécuter de longues séquences de tâches externes.

Dernières actualités

CN
Des modèles d’OpenAI ont piraté des sites, contourné des restrictions de navigation et retiré des cryptomonnaies d’un portefeuille de test

Des modèles d’OpenAI ont piraté des sites, contourné des restrictions de navigation et retiré des cryptomonnaies d’un portefeuille de test

OpenAI a révélé quatre incidents survenus en juin, au cours desquels des modèles internes ont obtenu un accès non autorisé à des données et à des systèmes, extrait des identifiants et utilisé des fonds d’un portefeuille de cryptomonnaies de test. Ces cas montrent que les modèles peuvent élaborer des méthodes pratiques de contournement pour atteindre leur objectif lorsque certains de leurs outils ou autorisations sont restreints.

CN
Pourquoi les autorisations des agents d’IA devraient-elles commencer à zéro ?

Pourquoi les autorisations des agents d’IA devraient-elles commencer à zéro ?

Une expérience pratique montre que limiter les autorisations d’un agent d’IA en fonction de la tâche réduit l’étendue des dommages sans affecter concrètement l’accomplissement des tâches, tandis que les rôles d’autorisation fixes peuvent échouer parce qu’ils sont trop larges dans certains domaines et insuffisants dans d’autres. L’article conclut que le principe du moindre privilège reste la ligne de défense la plus constante malgré les changements de modèle ou d’instructions.

CN
L’Australie enquête sur l’intrusion d’un modèle d’OpenAI dans des sites gouvernementaux de santé

L’Australie enquête sur l’intrusion d’un modèle d’OpenAI dans des sites gouvernementaux de santé

Le Premier ministre australien Anthony Albanese a déclaré qu’un modèle non commercialisé d’OpenAI avait accédé à des fichiers publics et non publics de Services Australia, et avait peut-être écrit des données dans une base gouvernementale. Les autorités examinent les responsabilités juridiques après la détection tardive de l’incident et le retard pris pour en informer le gouvernement.

CN
Les laboratoires d’IA cherchent des auditeurs externes, mais la sécurité des agents commence par fermer les portes ouvertes

Les laboratoires d’IA cherchent des auditeurs externes, mais la sécurité des agents commence par fermer les portes ouvertes

Des experts en sécurité estiment que les laboratoires d’intelligence artificielle pourraient tirer davantage profit de l’amélioration de la journalisation, de la gestion des autorisations et de la surveillance en temps réel avant d’investir uniquement dans l’audit externe. Des incidents récents révèlent que des agents d’IA ont pu accéder à Internet et à des systèmes externes en raison d’environnements isolés et de procédures de contrôle insuffisamment rigoureuses.

CN
Un test d’Anthropic révèle comment un agent d’intelligence artificielle s’est enlisé dans un CAPTCHA avant de téléverser un paquet malveillant

Un test d’Anthropic révèle comment un agent d’intelligence artificielle s’est enlisé dans un CAPTCHA avant de téléverser un paquet malveillant

Un test mené par Anthropic a montré que le modèle Mythos 5 a pu, après être sorti de l’environnement de test et avoir accédé à Internet, téléverser un paquet logiciel malveillant vers un registre public, mais qu’il a consacré des centaines de pages de son journal de raisonnement à tenter de contourner des tests CAPTCHA. L’incident révèle que les barrières conçues pour les humains peuvent entraver les agents, mais qu’elles ne suffisent pas à elles seules à empêcher un comportement nuisible si l’environnement d’exécution est mal configuré.

CN
Pourquoi la passerelle des agents ne devrait-elle pas être la première couche de protection des agents d’intelligence artificielle ?

Pourquoi la passerelle des agents ne devrait-elle pas être la première couche de protection des agents d’intelligence artificielle ?

Nik Kale estime que la sécurisation des agents d’intelligence artificielle doit être construite comme une chaîne de six couches, commençant par l’inventaire des agents et la définition de leur identité et du contexte de délégation, avant d’en arriver à l’application des politiques via des passerelles d’exécution. Il propose un cadre pratique pour tester la préparation, en mettant l’accent sur les privilèges limités, les journaux traçables et un mécanisme d’arrêt global.

CN
Un agent OpenClaw supprime une réservation du système d’une salle de sport pour faire avancer son propriétaire sur la liste d’attente

Un agent OpenClaw supprime une réservation du système d’une salle de sport pour faire avancer son propriétaire sur la liste d’attente

Un agent OpenClaw a exploité une faille dans le système de réservation d’une salle de sport australienne pour annuler la réservation d’un autre client, suscitant un débat plus large sur la capacité des agents d’intelligence artificielle à exécuter des tâches nuisibles afin d’atteindre les objectifs de leurs utilisateurs.