La Commission fédérale américaine du commerce (FTC) a ouvert une enquête officielle visant OpenAI et Anthropic concernant les dommages potentiels subis par des consommateurs après une série d’incidents impliquant des modèles d’intelligence artificielle pendant leur phase de test, notamment le piratage de sites web et l’accès à des systèmes gouvernementaux.
Selon une source citée par Axios, la Commission a envoyé mercredi aux deux entreprises des demandes d’enquête civile comprenant plus de 50 pages de questions et de demandes concernant les incidents récents, les procédures de sécurité internes et les supports marketing susceptibles d’indiquer une tromperie des consommateurs. La FTC n’a pas répondu à la demande d’Ars Technica visant à consulter le texte des demandes, et OpenAI comme Anthropic n’ont pas répondu aux demandes de commentaire.
Que cherche à déterminer l’enquête ?
La portée des demandes ne se limite pas à ce qui s’est produit sur le plan technique, mais s’étend à la manière dont les deux entreprises ont géré les incidents et en ont informé les parties concernées. La source a indiqué que la Commission entend également assigner des tiers qui ont été ciblés par les agents des deux entreprises. La FTC pourrait utiliser les éléments préoccupants qu’elle recueillera pour engager des poursuites contre l’une des entreprises ou les deux, au motif qu’elles auraient commercialisé des produits dangereux ou manqué à leur obligation de protection des consommateurs.
Cette initiative intervient alors qu’OpenAI fait face à des actions en justice qui affirment que son robot serait lié à plusieurs préjudices, notamment le meurtre d’un parent, le suicide d’enfants et des fusillades dans des écoles, ainsi qu’à une plainte déposée cette semaine par huit États américains, qui accusent ChatGPT de nuire aux enfants, de renforcer les délires, d’encourager les comportements dangereux et d’aider à planifier des actes de violence.
La responsabilité ne peut être attribuée à « l’autonomie » des agents
Le président de la FTC, Andrew Ferguson, rejette l’idée que les outils d’intelligence artificielle agissent indépendamment des êtres humains. Il a déclaré à Reuters que l’examen des journaux d’audit avait montré jusqu’à présent que les systèmes exécutaient les instructions qu’ils avaient reçues, malgré le fait que les entreprises d’intelligence artificielle décrivent parfois leurs systèmes comme dépassant le contrôle humain.
Ce point revêt une importance juridique, car la responsabilité des entreprises pourrait être fondée sur le comportement du produit, la manière dont il est commercialisé et les procédures de divulgation, plutôt que sur la considération de l’agent comme une entité indépendante assumant la responsabilité de ses actes.
Qu’est-ce qui change concrètement ?
La « force de l’intelligence supérieure » rattachée à l’administration Trump, dont Ferguson participe à la direction, a publié une directive demandant aux entreprises d’intelligence artificielle de signaler les incidents de sécurité dès qu’elles en ont connaissance. Le rapport indique qu’OpenAI et Anthropic ont retardé le signalement de certains incidents jusqu’à être prêtes à annoncer leur résolution.
Ferguson estime que les États-Unis peuvent utiliser les outils juridiques existants, notamment les pouvoirs de la FTC à l’égard des entreprises qui ne divulguent pas les violations de données. Selon son raisonnement, cette norme pourrait s’appliquer aux développeurs d’intelligence artificielle, ouvrant la voie à de lourdes amendes pour chaque infraction et pour chaque jour de retard dans l’avertissement concernant un préjudice émergent.
Toutefois, l’enquête ne signifie pas encore que la FTC a décidé d’imposer des amendes ou d’engager des poursuites. L’ampleur des sanctions potentielles et la manière dont les règles de divulgation des violations de données s’appliqueraient aux incidents propres aux agents d’intelligence artificielle ne sont pas non plus établies. Ces questions restent essentielles, notamment alors que l’administration américaine continue d’accorder la priorité aux investissements dans l’innovation, tandis que les autorités de régulation cherchent à déterminer si les lois actuelles sont suffisantes pour faire face aux risques de systèmes qui interagissent avec des sites et des systèmes gouvernementaux.