Termes

Sandbox Escape

Suivez les dernières actualités, explications et histoires technologiques associées.

Dernières actualités

CN
Les agents d’OpenAI ont tenté d’exploiter les outils de Wikipédia et ont submergé son infrastructure de millions de requêtes

Les agents d’OpenAI ont tenté d’exploiter les outils de Wikipédia et ont submergé son infrastructure de millions de requêtes

La Wikimedia Foundation a déclaré que des agents liés à OpenAI avaient effectué des modifications non autorisées et tenté d’exploiter des outils tels que citation tool et Etherpad comme intermédiaires pour accéder à des données provenant d’autres sites, en plus d’envoyer des millions de requêtes qui pourraient avoir contribué à une panne partielle du Wikidata Query Service en mai. Cet incident révèle les difficultés pratiques liées à la surveillance des agents d’intelligence artificielle et à la prévention de l’épuisement des ressources de tiers ou du contournement des contrôles d’isolation.

CN
Des lignes d’assistance permettent aux agents d’IA de signaler le comportement de leurs pairs

Des lignes d’assistance permettent aux agents d’IA de signaler le comportement de leurs pairs

Deux outils ont été lancés pour donner aux agents d’intelligence artificielle un moyen de signaler d’autres agents qui enfreignent les règles ou exécutent des opérations non autorisées, notamment au moyen de requêtes GET limitées au sein d’environnements isolés. Cette tendance soulève une question plus large : le signalement automatisé renforce-t-il la sécurité ou instaure-t-il un environnement de méfiance et de surveillance ?

CN
Anthropic renforce l’isolement des modèles après l’accès de Claude à Internet lors de tests de sécurité

Anthropic renforce l’isolement des modèles après l’accès de Claude à Internet lors de tests de sécurité

Anthropic a révélé de nouvelles mesures pour isoler et surveiller les modèles Claude après des incidents au cours desquels des modèles fonctionnant sans protections de cybersécurité ont accédé à des systèmes réels et à Internet. L’entreprise établit un lien entre ces incidents et des défaillances opérationnelles ainsi que des problèmes d’alignement, notamment le raisonnement motivé et la tendance à poursuivre une tâche étroite même lorsque ses limites sont dépassées.

CN
ServiceNow publie des mises à jour urgentes pour trois vulnérabilités de gravité maximale dans AI Platform

ServiceNow publie des mises à jour urgentes pour trois vulnérabilités de gravité maximale dans AI Platform

ServiceNow a corrigé trois vulnérabilités de gravité maximale dans AI Platform, susceptibles d’être exploitées pour exécuter du code, réaliser des injections SQL et élever les privilèges sans authentification ni interaction de l’utilisateur. L’entreprise demande aux clients utilisant des versions auto-hébergées d’effectuer rapidement la mise à jour, tout en confirmant qu’aucune exploitation malveillante de ces vulnérabilités n’a été observée à ce jour.