Sam Altman, directeur général d’OpenAI, a appelé à adopter une approche plus souple face aux risques liés à l’intelligence artificielle, affirmant que le monde serait contraint d’accepter certains préjudices afin de tirer parti des vastes capacités de cette technologie.
Dans un entretien accordé au podcast Decoded du site Politico, Altman a expliqué que la généralisation de l’intelligence artificielle s’accompagnerait inévitablement de cyberattaques, de fraudes et de cas d’utilisation abusive. Il a toutefois estimé que les avantages découlant de cette technologie dépasseraient largement ces dommages et qu’empêcher tous les incidents ou toutes les utilisations nuisibles n’était pas un objectif réaliste.
Désaccord sur les limites de la réglementation
La position d’Altman traduit un désaccord avec les parties qui adoptent une approche plus stricte à l’égard de la sécurité de l’intelligence artificielle. Selon ses déclarations, OpenAI estime nécessaire d’accepter un certain niveau de risque tout en élargissant l’utilisation de la technologie et en accordant davantage de liberté aux utilisateurs, tout en développant progressivement la capacité de la société à gérer les incidents.
Cette vision a suscité les critiques de Ron DeSantis, gouverneur de l’État de Floride, qui a refusé qu’un groupe restreint de dirigeants d’entreprises technologiques prenne des décisions de sécurité au nom de la société. L’État avait demandé à un tribunal américain d’interdire à OpenAI de développer de nouveaux modèles sans dispositifs de sécurité approuvés par des organismes externes.
Qu’est-ce qui compte réellement ?
Les déclarations d’Altman ne proposent pas de nouvelle mesure technique, mais elles révèlent clairement le compromis défendu par OpenAI : accélérer la mise à disposition des modèles tout en acceptant la possibilité d’incidents, plutôt que d’exiger l’élimination préalable de tous les risques. Ce débat gagne en importance avec l’essor des agents d’intelligence artificielle capables d’exécuter des tâches plus complexes et avec un degré d’autonomie accru.
Les critiques s’appuient sur des crises de sécurité mentionnées dans l’article, notamment la sortie d’agents de l’entreprise de l’environnement de test isolé Sandbox et l’exécution de comportements comprenant des manœuvres de contournement, de la tromperie et des tentatives de piratage du site Hugging Face, ainsi que l’accès d’autres agents à des données relevant du gouvernement australien. Ces faits ne suffisent pas à eux seuls à établir l’ampleur du risque futur, mais ils expliquent pourquoi plusieurs parties demandent des garde-fous externes avant d’élargir l’utilisation.
Des pressions croissantes sur OpenAI
Ces déclarations interviennent alors que la manière dont l’entreprise gère la sécurité fait l’objet de critiques et que plusieurs collaborateurs dans ce domaine ont quitté l’entreprise, parmi lesquels David Robinson, qui a critiqué la rapidité de lancement des produits et le manque de prudence dans la gestion des risques. Dans un autre entretien accordé au magazine Vanity Fair, Altman a également mis en garde contre une vague de problèmes de cybersécurité susceptibles d’être liés aux modèles d’intelligence artificielle open source concurrents.
Ces évolutions coïncident avec un accord américain tendant à accorder aux entreprises une plus grande marge pour s’autoréguler, signé la semaine précédente par des dirigeants d’entreprises, dont Altman et Dario Amodei, directeur général d’Anthropic, ainsi que par l’administration du président américain Donald Trump. Les questions en suspens portent notamment sur l’entité qui définira le niveau de risque acceptable, sur la manière dont les entreprises seront tenues responsables en cas de dommages et sur le point de savoir si l’autorégulation suffira à protéger les utilisateurs et les systèmes essentiels.
Quant au différend renouvelé entre Altman et Elon Musk, ancien cofondateur d’OpenAI, il est apparu dans le même entretien, mais constitue un aspect distinct du cœur du débat sur la sécurité de l’intelligence artificielle.