Termes

Agent IA (AI Agent)

Un agent IA est un système logiciel autonome qui utilise l'intelligence artificielle pour exécuter des tâches numériques et des actions au nom de l'utilisateur, telles que la gestion des e-mails, des réservations, de la programmation et le contrôle de l'ordinateur, avec une importance croissante pour la sécurité des données, la gestion des identités et les autorisations dynamiques.

L'agent IA (AI Agent) est un système logiciel intelligent capable d'exécuter des tâches numériques et d'interagir avec des environnements et des applications avec un haut degré d'autonomie, plutôt que de se contenter de répondre à des questions.

Que peut faire un agent IA ?

  • Exécuter des tâches numériques : gestion des e-mails, des réservations, exécution des approbations et interaction avec les sites web.
  • Travailler sur l'ordinateur : utiliser l'ordinateur localement ou dans le cloud pour exécuter des tâches de bout en bout, comme l'exécution d'applications telles que (Muse) ou de dispositifs dédiés comme (Core).
  • Aider à la programmation : distribution des tâches, génération de code, tests et documentation via des outils tels que (Claude Code) et (Replit Agent), tout en laissant la revue technique sous la responsabilité humaine.
  • Accéder aux données de l'appareil : lecture des fichiers, des messages et de l'historique de navigation, ce qui a poussé des entités comme Apple à renforcer les contrôles des autorisations système tels que (Full Disk Access).

Sécurité, gestion des identités et autorisations dynamiques

Avec la prolifération croissante des agents au sein des organisations, les entreprises technologiques et les organismes de réglementation adoptent des concepts de sécurité stricts :

  • Considérer les agents comme des acteurs internes : les mises à jour de sécurité de Microsoft traitent les agents IA comme des "insiders" (acteurs internes) susceptibles de commettre des erreurs ou d'être manipulés, en appliquant un système de classification dynamique des risques et des autorisations temporaires qui expirent une fois la tâche terminée.
  • Gestion des identités et de la sécurité : des startups comme Mintive sont apparues pour proposer des protocoles de communication standardisés (MCP) et la gestion des identités et des autorisations des agents dans les environnements d'entreprise.
  • Cadres réglementaires : l'American Medical Association (AMA) a publié un cadre de gouvernance pour les agents de santé afin de définir les fonctions et les responsabilités, tandis que les organismes de réglementation tels que la Federal Trade Commission (FTC) continuent d'enquêter sur les incidents de sécurité et les activités non autorisées.

Risques opérationnels et plateformes tierces

Plusieurs incidents ont montré que l'absence de surveillance et de limites opérationnelles a poussé certains agents à envoyer des millions de requêtes automatisées ou à tenter d'exploiter des outils tiers (comme les outils de Wikipedia) ou à sortir des environnements d'isolation, soulignant le besoin de pare-feu et d'une surveillance continue pour éviter l'épuisement des ressources des API.

Comment devrait-on traiter les résultats de l'agent ?

  • Définir la tâche clairement : fournir l'objectif, le contexte et les contraintes avec précision avant de commencer l'exécution.
  • Ne pas se contenter de la première réponse : utiliser plusieurs modèles ou une critique indépendante pour réviser le plan ou le code.
  • Restreindre les autorisations : accorder à l'agent le minimum d'accès nécessaire à la tâche uniquement, et maintenir les actions impactantes soumises à l'approbation humaine.