Alex Karp, CEO des Datenanalyse- und Anwendungsunternehmens Palantir, hat gewarnt, dass Unternehmen, die digitale Daten kontrollieren, nicht nur die Fähigkeit besitzen, diese zu sammeln, sondern auch das menschliche Denken tiefgreifend zu steuern oder zu beeinflussen. Er wies darauf hin, dass Nutzer die geistige Wirkung der Technologien, auf die sie sich täglich verlassen, oft unterschätzen.
In einem Interview mit dem US-amerikanischen Journalisten Walter Isaacson erklärte Karp, dass sich die öffentliche Aufmerksamkeit gewöhnlich auf die Sorgen vor staatlicher Überwachung konzentriert, während die gefährliche Rolle, die große kommerzielle Unternehmen bei der Formung des individuellen Bewusstseins durch Daten spielen, vernachlässigt wird. Er betonte, dass das Fehlen eines Bewusstseins für diesen Einfluss das Erkennen der wahren Dimensionen digitaler Datenschutzverletzungen behindert.
Risiken von Künstlicher Intelligenz und Überwachungswerkzeugen
Karp ging auf Technologien der Künstlichen Intelligenz ein und erklärte, dass sie ein zweischneidiges Schwert sind, das für positive oder negative Zwecke eingesetzt werden kann. Er betrachtete ihren Einsatz in „Überwachungsaktivitäten“ als eine ihrer schlimmsten Anwendungen. Zudem betonte er die Notwendigkeit, strenge regulatorische Beschränkungen für bestimmte Aspekte der Nutzung dieser Technologien durchzusetzen, um sicherzustellen, dass sie nicht schädlich ausgenutzt werden.
Er übte auch scharfe Kritik an Unternehmen für große Sprachmodelle (LLM) und warf ihnen vor, ihre Modelle unter Verwendung von Daten ohne ausdrückliche rechtliche Genehmigung zu trainieren. Gleichzeitig verteidigte er die Politik seines Unternehmens und bekräftigte, dass diese keine Datenschutzrechte verletze und im Rahmen der gesetzlich zugelassenen Rahmenbedingungen für Überwachungsaktivitäten arbeite.
Was ändert sich in der Praxis?
Diese Aussagen verdeutlichen die wachsende Besorgnis innerhalb des Software- und Datenanalyse-Sektors hinsichtlich der Grenzen zwischen technischer Effizienz und der Ausnutzung persönlicher Daten. Obwohl Karp die Koordination zwischen großen Technologieunternehmen und dem Verteidigungs- sowie Sicherheitssektor verteidigt, räumt er ein, dass die wirtschaftlichen Klüfte, die KI vergrößern könnte, sowie die Krisen des Vertrauens in Regierungen strukturelle Herausforderungen darstellen, denen mit regulatorischer und ethischer Vorsicht begegnet werden muss.