Alexandr Karp, PDG de l'entreprise d'analyse de données et d'applications Palantir, a averti que les entreprises qui contrôlent les données numériques ont la capacité non seulement de les collecter, mais aussi de contrôler ou d'influencer profondément la pensée humaine, soulignant que les utilisateurs sous-estiment souvent l'impact intellectuel des technologies sur lesquelles ils comptent au quotidien.
Dans une interview accordée au journaliste américain Walter Isaacson, Karp a expliqué que l'attention générale se porte habituellement sur les craintes de surveillance gouvernementale, tandis que l'on néglige le rôle dangereux que jouent les grandes entreprises commerciales dans la formation de la conscience individuelle à travers les données. Il a affirmé que l'absence de prise de conscience de cet impact empêche de saisir les dimensions réelles des violations de la vie privée numérique.
Risques de l'intelligence artificielle et outils de surveillance
Karp a abordé les technologies de l'intelligence artificielle, expliquant qu'il s'agit d'une arme à double tranchant qui peut être orientée vers des fins positives ou négatives, et a estimé que leur utilisation dans des « actions de surveillance » représente l'une de leurs pires applications. Il a insisté sur la nécessité d'imposer des restrictions réglementaires strictes sur certains aspects de l'utilisation de ces technologies pour garantir qu'elles ne soient pas exploitées de manière nuisible.
Il a également adressé de vives critiques aux entreprises de grands modèles de langage (LLM), les accusant d'entraîner leurs modèles en utilisant des données sans autorisation légale claire, tout en défendant les politiques de sa propre entreprise qu'il a affirmé ne pas violer les droits à la vie privée et opérer dans le cadre des cadres légaux autorisés pour les activités de surveillance.
Qu'est-ce qui change concrètement ?
Ces déclarations mettent en lumière l'anxiété croissante au sein du secteur des logiciels et de l'analyse des données concernant les frontières entre efficacité technique et exploitation des données personnelles. Bien que Karp défende la coordination entre les grandes entreprises technologiques et le secteur de la défense et de la sécurité, il reconnait que les fossés économiques que l'intelligence artificielle pourrait élargir, aux côtés des crises de confiance gouvernementale, posent des défis structurels qui doivent être affrontés avec prudence réglementaire et éthique.