Les débats sur l’avenir de l’intelligence artificielle s’orientent vers une troisième option entre l’accélération sans contraintes du développement des modèles et les appels à ralentir les progrès : parvenir à un équilibre clair entre innovation et sécurité. Ces appels font suite aux avertissements lancés par des responsables et des chercheurs au sein d’entreprises d’intelligence artificielle, concernant la possibilité que la vitesse de développement des systèmes dépasse la capacité des parties concernées à les comprendre et à les contrôler.
Dario Amodei, directeur général d’Anthropic, avait averti que les nouveaux systèmes pourraient évoluer à une vitesse supérieure à la capacité de la société à les assimiler et à les contrôler. Elon Musk a soutenu cet avertissement par une brève déclaration sur la plateforme X, tandis que Sam Altman, directeur général d’OpenAI, a déclaré qu’il approuvait la proposition, indiquant que son entreprise prendrait la même mesure en matière d’évaluation indépendante. L’article cite également le chercheur Jacob Coxon, qui a auparavant travaillé chez Anthropic et OpenAI, faisant état de préoccupations similaires concernant la vitesse des progrès.
Entre la vitesse des modèles et la préparation de la société
Zafer Küçükşabanoğlu, président de l’Association des politiques de l’intelligence artificielle (AIPA), a déclaré que les avertissements émanant de personnes travaillant au sein des entreprises de développement méritaient d’être pris au sérieux, mais il a refusé de considérer l’arrêt du développement comme une solution. Selon sa vision, la forte concurrence entre les entreprises d’intelligence artificielle a accéléré le rythme des progrès, tandis que les politiques publiques, les lois, les systèmes éducatifs, le marché du travail et les infrastructures sociales n’évoluent pas au même rythme.
Küçükşabanoğlu estime que l’élargissement de l’écart entre la vitesse de la technologie et le niveau de préparation des États et des sociétés pourrait entraîner des conséquences dépassant les seules entreprises. Les grandes entreprises ne disposent pas uniquement de capacités économiques : elles rassemblent également des données, des technologies, des compétences et des ressources humaines, ce qui pourrait à l’avenir influencer les équilibres de pouvoir mondiaux. Il a donc appelé à placer les États au centre de la coordination, tout en rejetant à la fois un développement débridé et une réglementation si stricte qu’elle entraverait l’innovation.
Qu’est-ce qui change concrètement ?
La proposition présentée par l’article n’appelle pas à fixer une date précise pour arrêter le développement des modèles et ne fournit pas non plus de cadre réglementaire détaillé. Elle définit toutefois un ensemble d’équilibres que les personnes interrogées jugent nécessaire de gérer : la vitesse face à la sécurité, l’innovation face à la réglementation, la concurrence face à la coopération et le progrès technologique face à la préparation de la société.
Küçükşabanoğlu a également appelé les entreprises à coopérer entre elles et avec les gouvernements sur les questions de sécurité, d’éthique et de normes, tout en maintenant la responsabilité de définir les règles du jeu, les limites de sécurité et l’intérêt général dans un cadre dirigé par les États.
La nécessité d’un dialogue plus large
Pour sa part, Dr. Emel Sokullu, de l’Institut de recherche en sciences de la santé et technologies de l’Université Medipol, a déclaré que les principes éthiques devaient faire partie du progrès technologique, et non constituer une discussion ultérieure. Elle a averti que la vitesse du développement pouvait parfois conduire à dépasser les discussions approfondies sur les aspects éthiques, sociaux et liés à la gouvernance.
Sokullu a appelé à créer des plateformes communes et de solides mécanismes de dialogue réunissant les scientifiques, les développeurs technologiques, les décideurs et la société, avec une participation active des organisations de la société civile. L’importance de cette proposition réside dans le déplacement du débat de la question « qui est le plus rapide ? » vers une question plus large sur la manière de développer l’intelligence artificielle dans des limites qui puissent être comprises, réexaminées et donner lieu à la responsabilisation des parties concernées. Les détails de ces limites et les mécanismes de leur mise en œuvre restent indéterminés dans l’article, et les entretiens ne fournissent pas non plus de calendrier ni d’engagements pratiques de la part des entreprises ou des gouvernements.