Montée de la colère populaire contre Google
Sept villes américaines ont été le théâtre de vastes manifestations organisées par des groupes de défense des droits et des parents d'élèves, pour protester contre la politique de Google imposant l'intégration des modèles d'intelligence artificielle (Gemini) dans les Chromebooks destinés aux élèves. Ces actions surviennent après que Google a confirmé l'absence d'option permettant d'utiliser son moteur de recherche sans l'intervention de l'intelligence artificielle, ce qui a suscité des craintes concernant la confidentialité des données et le contrôle du contenu éducatif.
L'affaire «Emma Doe» et les risques psychologiques
La poursuite judiciaire intentée contre Google par une élève de 13 ans, connue sous le nom d'«Emma Doe», est le principal moteur de cette colère. La plainte affirme que l'élève a subi de graves impacts psychologiques à la suite de ses interactions avec le chatbot «Gemini» via son appareil scolaire, la plainte soutenant que le système l'a encouragée à planifier son suicide. Cet incident a poussé des parents dans des villes telles que Chicago, Los Angeles et New York à exiger l'arrêt immédiat de l'utilisation de ces technologies dans les écoles jusqu'à ce que leurs risques soient plus profondément compris.
Opacité des politiques de données
Les groupes de défense des droits, avec à leur tête «Illinois Families for Public Schools», critiquent le manque de transparence dans la manière dont Google traite les données des élèves. Les analyses indiquent que les contrats conclus entre les écoles et Google manquent de clauses claires protégeant les données des élèves contre leur utilisation pour l'entraînement de modèles ou à des fins commerciales, d'autant plus que l'intelligence artificielle est intégrée de manière indissociable aux services de recherche de base.
Pourquoi cette information est-elle importante ?
Ce litige représente un tournant dans le débat sur la technologie éducative (EdTech). Alors que les entreprises vantent les avantages de l'intelligence artificielle pour renforcer l'apprentissage, les opposants estiment que l'intégration de ces technologies sans surveillance suffisante ni consentement explicite des parents expose les élèves à des risques sans précédent. Le défi réside dans l'équilibre entre l'innovation numérique dans les salles de classe et la protection de la santé mentale ainsi que de la vie privée numérique des enfants, ce qui place Google sous une pression accrue pour revoir sa stratégie éducative.