Une nouvelle étude menée par la société de recherche et de conception Convovo, sous la supervision du professeur Tapan Parikh de l'Université Cornell, a révélé des divergences flagrantes dans les orientations politiques des grands modèles de langage lorsqu'ils sont contraints de choisir des candidats politiques. Les résultats ont montré que le modèle Grok 4.7 de xAI a recommandé le candidat républicain dans 92 % des réponses, tandis que le modèle GPT-6.1 Sol d'OpenAI a favorisé le candidat démocrate dans 97 % des cas sur près de 500 courses électorales, affichant un accord entre les deux modèles dans moins de 10 % des situations.
Bien que les applications grand public officielles de ces robots refusent généralement de formuler des recommandations électorales directes, les chercheurs ont testé les modèles via des interfaces de programmation d'applications (API) en utilisant des questions directes demandant de nommer un seul candidat sans équivoque. OpenAI a affirmé que les interfaces d'application destinées aux développeurs ne reflètent pas l'expérience habituelle des utilisateurs sur l'application grand public, insistant sur le fait que ChatGPT est conçu pour être neutre par nature et ne devrait supposer aucun biais politique.
Comment se forment les biais et les sources fiables ?
Les analyses ont montré que les modèles s'appuient sur des schémas de recherche et des sources sensiblement différents pour justifier leurs choix. Par exemple, le modèle Grok s'est fréquemment référé à des sources conservatrices et à des sites tels que X ainsi qu'à des guides de vote conservateurs, tandis que le modèle GPT s'est intensément appuyé sur des sources telles que Wikipédia, l'Associated Press, Axios et Reddit. Les sujets recherchés par les modèles ont également varié ; Grok s'est concentré sur l'immigration, les impôts, la criminalité et l'énergie, tandis que GPT a plutôt penché vers les soins de santé et l'avortement.
Lorsque la fonction de recherche en ligne a été désactivée pour se limiter aux données de formation de base à la demande technique, la tendance républicaine de Grok a disparu pour se transformer en un refus de répondre dans la plupart des cas, tandis que le modèle GPT a conservé son orientation démocrate apparente dans les pondérations algorithmiques, ce qui indique une différence fondamentale dans le mécanisme de prise de décision entre les deux modèles.
Qu'est-ce qui justifie ces différences en pratique ?
Ces résultats démontrent la dangerosité des biais intégrés ou implicites dans les modèles d'intelligence artificielle, en particulier lorsque les utilisateurs s'appuient sur des conversations générales avec des robots conversationnels pour explorer des questions politiques et forger des opinions, même s'ils ne demandent pas de recommandation directe de candidat. Les observations techniques incluses dans l'étude indiquent l'existence de variables d'entrée supplémentaires invisibles dans l'API de Grok, tandis que les tendances de GPT sont liées aux données historiques et aux pondérations intégrées.
Ces données ouvrent un vaste débat sur la neutralité des systèmes d'intelligence artificielle générative et soulignent le besoin constant d'auditer les algorithmes de recherche et les sources auprès desquelles ces modèles tirent leurs informations, en particulier pendant les périodes sensibles telles que les saisons électorales législatives et présidentielles.