Guides

Guide des agents IA : qu'est-ce qu'un agent d'intelligence artificielle et comment fonctionne-t-il ?

Un agent d'intelligence artificielle est un programme autonome qui exécute des tâches numériques complexes au nom de l'utilisateur, telles que la navigation, la programmation et la gestion de réservations. Les développements récents indiquent un changement dans la gestion de ces agents, considérés comme des "intervenants internes" nécessitant des contrôles de sécurité stricts, des autorisations dynamiques et une supervision humaine continue pour éviter les risques opérationnels.

Qu'est-ce qu'un agent d'intelligence artificielle ?

Un agent d'intelligence artificielle (AI Agent) est une entité logicielle autonome qui utilise l'intelligence artificielle pour exécuter une série de tâches et interagir avec les environnements de travail. Contrairement aux chatbots traditionnels, l'agent a la capacité d'entreprendre des actions concrètes telles que la navigation, le remplissage de formulaires, la programmation et la gestion de comptes personnels.

Évolutions de la sécurité et de la gouvernance des agents

Avec l'autonomie croissante des agents, des entreprises telles que Microsoft ont adopté une nouvelle philosophie de sécurité qui traite les agents comme des "intervenants internes" (Insiders), ce qui nécessite la mise en place de :

  • Autorisations dynamiques : octroi de privilèges limités pour chaque tâche, expirant à la fin de son exécution.
  • Système de risque dynamique : évaluation continue de l'activité de l'agent et modification de ses privilèges en fonction de son comportement.
  • Agents gardiens : agents spécialisés dans la sécurité qui surveillent les actions des autres agents pour garantir la conformité.

Exemples et applications pratiques

  • Développement de logiciels : des plateformes comme Replit utilisent des agents pour aider à la création d'applications, en mettant l'accent sur des environnements isolés (Sandbox) pour garantir la sécurité.
  • Assistants personnels : tels que Muse de Meta, qui dépasse les 5 millions de téléchargements, et Hark Pro, qui se concentre sur l'exécution de tâches via l'interface informatique.
  • Appareils dédiés : la société Ghost a lancé l'appareil Core au prix de 3 499 $, un ordinateur local conçu pour exécuter des agents et conserver les données des utilisateurs en local afin de renforcer la confidentialité.

Défis et risques

Des incidents techniques, tels que les tentatives d'agents d'OpenAI d'exploiter les outils de Wikipédia, ont révélé les risques d'épuisement des ressources ou d'exécution d'actions non autorisées en l'absence de surveillance. La Federal Trade Commission (FTC) américaine a également ouvert des enquêtes sur les préjudices potentiels liés aux agents d'intelligence artificielle, soulignant l'importance de :

  • L'examen humain : ne pas accepter les résultats de l'agent sans un examen critique, en particulier pour les tâches sensibles.
  • La transparence : afficher les étapes de l'agent à l'utilisateur pour instaurer la confiance.
  • La conformité : l'adhésion des organisations à des cadres de gouvernance clairs, tels que ceux proposés par l'Association médicale américaine pour les soins de santé.

Conseils pour une utilisation responsable

  • Définissez clairement les autorisations accordées à l'agent et ne lui accordez pas un accès complet au disque, sauf en cas d'absolue nécessité.
  • Utilisez un deuxième modèle pour examiner le travail de l'agent avant d'approuver les résultats.
  • Surveillez régulièrement l'activité de l'agent, en particulier pour les tâches impliquant des transactions financières ou l'accès à des données sensibles.