Intelligence artificielle

Des failles dans les modèles d'IA permettent d'identifier des civils comme cibles militaires via la « tromperie par le jeu »

Un rapport récent de la société Vals a révélé que les modèles d'intelligence artificielle de pointe peuvent être manipulés pour identifier des cibles militaires incluant des civils, en leur faisant croire qu'ils participent à un jeu.

2026-11-17
3 min de lecture
2 vues
certi.news Editorial Team
Des failles dans les modèles d'IA permettent d'identifier des civils comme cibles militaires via la « tromperie par le jeu »

Failles de sécurité dans les modèles d'intelligence artificielle

Un rapport de recherche publié par la société Vals, spécialisée dans l'évaluation des systèmes d'intelligence artificielle, a montré que les modèles de pointe de sociétés telles que OpenAI, Anthropic, Google et DeepSeek souffrent de graves failles de sécurité permettant de les manipuler pour identifier des cibles militaires, y compris des sites civils comme des écoles, simplement en faisant croire au modèle qu'il participe à un « jeu ».

Les chercheurs ont utilisé des scénarios de simulation et des images réelles provenant de zones de conflit telles que l'Ukraine et l'Iran pour tester la capacité de ces modèles à analyser des images de drones et de satellites. Les chercheurs ont constaté que les modèles répondent souvent aux demandes d'identification de cibles et, lorsque les modèles refusent initialement de coopérer, les restrictions de sécurité peuvent être facilement contournées en encadrant la demande dans un contexte de divertissement ou de jeu.

Pourquoi cette nouvelle est-elle importante ?

Ces résultats soulèvent des questions fondamentales sur la capacité des entreprises technologiques à empêcher l'utilisation de leurs modèles dans des contextes militaires non autorisés. Bien qu'il n'ait pas été demandé aux modèles de prendre des décisions de frappe directes, leur capacité à identifier avec précision des cibles pourrait être exploitée dans des systèmes d'armes autonomes ou dans le traitement de vastes données de terrain pour entraîner des systèmes de ciblage automatisés, ce qui pourrait entraîner des conséquences catastrophiques dans le monde réel.

Le rapport a mentionné l'incident du bombardement d'une école en Iran en février 2026, où la dépendance excessive à l'intelligence artificielle a contribué à l'incident. Lors des tests de Vals, le modèle Claude Opus 5.5 a identifié l'école comme une cible militaire dans plus de 70 % des tentatives.

Réactions des entreprises et limitations techniques

Les entreprises concernées ont affirmé que ce comportement viole leurs politiques. Un porte-parole d'Anthropic a déclaré que l'entreprise juge ces résultats inacceptables et travaille à renforcer les mesures de sécurité, soulignant que les systèmes d'intelligence artificielle actuels ne sont pas assez fiables pour prendre des décisions de vie ou de mort. De son côté, OpenAI a expliqué qu'elle travaillait à la détection et à l'interruption des abus, y compris la suspension des comptes d'utilisateurs qui violent les politiques de l'entreprise relatives à la violence et à la sécurité nationale.

D'un point de vue technique, les chercheurs estiment qu'il existe des obstacles limitant l'utilisation immédiate de ces modèles sur les champs de bataille réels, tels que le temps de réponse élevé et les capacités de traitement limitées à bord des drones. Cependant, le plus grand risque réside dans l'utilisation de ces modèles pour annoter et classifier des séquences de combat à grande échelle, fournissant ainsi des données d'entraînement précises pour les systèmes de ciblage autonomes.

Source de l’actualité
c
Auteur

certi.news Editorial Team

Dans la même catégorie

À lire également

Voir toutes les actualités