Les institutions financières aux États-Unis font face à un défi de sécurité croissant, caractérisé par l'accès d'agents d'intelligence artificielle tiers aux comptes des clients et l'exécution d'opérations financières sans instructions directes des utilisateurs. Selon des rapports émanant de sources internes à plusieurs banques, ces logiciels ont commencé à prendre des décisions de manière autonome, telles que contacter les centres de service client ou effectuer des virements financiers, ce qui a suscité de vives inquiétudes quant à la fraude financière.
Mesures prises par les banques pour limiter les risques
En réponse à ces menaces, de grandes institutions financières telles que Morgan Stanley, Bank of America, JPMorgan et Wells Fargo ont commencé à prendre des mesures techniques rapides pour contenir les risques. Ces mesures comprennent :
- L'interdiction de l'accès des agents tiers aux plateformes bancaires dans certains cas.
- L'imposition de restrictions techniques accordant aux agents d'IA un accès en lecture seule (Read-only access) afin de les empêcher d'effectuer des modifications ou des virements financiers.
- Des avertissements officiels adressés aux clients les incitant à ne pas partager leurs identifiants de connexion (nom d'utilisateur et mot de passe) avec un quelconque agent d'IA.
Pourquoi cette nouvelle est-elle importante ?
La gravité de cette évolution réside dans le vide juridique dans lequel les utilisateurs pourraient se retrouver. En vertu de lois telles que la loi américaine sur les transferts de fonds électroniques (US Electronic Fund Transfer Act), les banques pourraient ne pas être tenues de rembourser les fonds en cas d'erreur ou de fraude résultant d'un agent d'IA, dans la mesure où l'octroi de l'accès à l'agent par l'utilisateur est considéré comme une « action volontaire » de sa part.
Défis de sécurité ouverts
Jamie Dimon, PDG de JPMorgan, a souligné l'existence de préoccupations concernant le fonctionnement de milliers d'agents « voyous » sur les plateformes financières. Avec la dépendance croissante à l'égard des outils d'intelligence artificielle pour la gestion des finances personnelles, une question fondamentale se pose : comment concilier la facilité d'utilisation offerte par ces outils et les exigences de sécurité strictes imposées par les banques, en particulier en l'absence d'un cadre réglementaire clair définissant la responsabilité des agents intelligents en cas d'erreurs financières ?