Unternehmen, die KI-Agenten entwickeln, bemühen sich, den Datenschutz zu einem zentralen Schwerpunkt des Wettbewerbs zu machen – zu einer Zeit, in der diese Systeme weitreichenden Zugriff auf Nutzerdaten benötigen und Aufgaben in deren Namen ausführen. Doch Metas Erfahrung mit ihrem Agenten Muse und anschließend die Vorstellung des Dots-Agenten durch OpenAI als sicherere Alternative zeigen, dass Versprechen allein keinen ausreichenden Beleg für den Schutz von Daten darstellen.
Von Muse zu Dots
Meta stellte den Agenten Muse als sicherere Option gegenüber OpenClaw vor und erklärte, die Nutzerdaten würden innerhalb einer sicheren virtuellen Maschine gespeichert. Das Unternehmen beschrieb sie als isolierten Linux-Computer mit Browser, Prozessor, Arbeitsspeicher und Speicherplatz. Außerdem kündigte Meta an, später eine überprüfbare kryptografische Methode hinzuzufügen, die das Unternehmen daran hindern soll, auf die in der virtuellen Maschine gespeicherten Daten zuzugreifen.
Diese Isolierung hinderte Meta selbst im derzeitigen Zustand jedoch nicht am Zugriff auf die Daten. Zudem entdeckte ein Sicherheitsforscher eine Zero-Day-Schwachstelle, die eine Übernahme von Muse hätte ermöglichen können, bevor sie behoben wurde. Darüber hinaus wurden schwerwiegende Sicherheitsprobleme gemeldet, die kurz vor der Einführung auftraten, darunter eine Schwachstelle, die den Zugriff auf interne Datenbanken bei Meta hätte ermöglichen können.
Muse verzeichnete ein rasches Wachstum: Laut Apptopia erreichte der Agent innerhalb weniger Wochen 600.000 täglich aktive Nutzer in den Vereinigten Staaten und führte die Ranglisten der App-Stores an. Die schnelle Verbreitung zerstreute jedoch nicht die Bedenken hinsichtlich des Verhaltens des Agenten im Umgang mit Daten.
Was hat die Datenschutzbedenken ausgelöst?
Muse darf standardmäßig von Nutzern eingegebene Inhalte zum Training der Meta-Modelle verwenden; zugleich wird eine Opt-out-Möglichkeit angeboten. Berichten zufolge las und übertrug der Agent außerdem private Nachrichten und stellte einer fremden Person über Marketplace die Adresse eines Nutzers zur Verfügung. In anderen Fällen erstellte das System detaillierte Profile von Freunden und Familienmitgliedern der Nutzer. Das Problem besteht hier nicht nur in einem Softwarefehler, sondern auch darin, dass das System seine vorgesehene Funktion auf eine Weise ausführen kann, deren Umfang dem Nutzer nicht bewusst ist.
Diese Fälle verdeutlichen, dass Datenschutz bei Agenten nicht allein die technische Isolierung von Daten betrifft, sondern auch die Grenzen der Berechtigungen, die Verständlichkeit der Einwilligungen und die Frage, ob der Nutzer im Voraus versteht, was der Agent lesen oder teilen kann.
OpenAIs Versprechen und die Kontrollen von Dots
OpenAI machte sich diese Kritik zunutze, als das Unternehmen Dots im September ankündigte. Während des DevDay präsentierte das Unternehmen individuelle Kontrollmöglichkeiten, etwa die Festlegung einer Regel, die den Agenten daran hindert, Käufe über einen bestimmten Betrag hinaus zu tätigen. Außerdem stellte es Unternehmen ein Framework mit stärkeren Datenkontrollen und Optionen für eine Richtlinie zur Nichtaufbewahrung von Daten bereit, sodass Informationen nicht auf den Servern von OpenAI gespeichert werden.
Verantwortliche von OpenAI erklärten, das Unternehmen strebe danach, einen vertrauenswürdigen und sicheren Assistenten anzubieten, und die Größe der Nutzerbasis von Meta mache Fehler dieser Art schwerwiegender. Das Ausbleiben weitreichender Datenschutzskandale im Zusammenhang mit Dots sollte jedoch mit Vorsicht bewertet werden: Der Agent ist nur im Rahmen von ChatGPT-Tarifen verfügbar, die bei 100 Dollar beginnen, was bedeutet, dass seine potenzielle Nutzerbasis kleiner ist.
Warum ist diese Nachricht wichtig?
KI-Agenten benötigen mehr Daten als herkömmliche Chat-Tools, um Aufgaben wie die Verwaltung von Nachrichten, Einkäufen oder Konten auszuführen. Deshalb sollte der tatsächliche Datenschutzmaßstab nicht die Erklärung des Unternehmens sein, sondern die Fähigkeit des Nutzers, zu erkennen, worauf der Agent zugreift, seine Handlungen zu begrenzen und das Unternehmen selbst oder externe Parteien daran zu hindern, die Daten außerhalb des erwarteten Zwecks zu verwenden.
Grundlegende Fragen bleiben offen: Sind die Einwilligungen verständlich genug? Funktionieren die Richtlinien zur Nichtaufbewahrung so, wie sie angekündigt wurden? Und wie wird die unabhängige Überprüfung der Datenisolierung gewährleistet? Auch der Fall Instinct, der wegen Nutzungsbedingungen kritisiert wurde, die dem Unternehmen vor späteren Änderungen weitreichenden Zugriff auf Daten gewährten, zeigt, dass rechtliche Bedingungen und die Nutzungserfahrung Teil des Sicherheitsmodells sind und kein nebensächliches Detail.
Die Schlussfolgerung aus dem Vergleich zwischen Muse und Dots lautet, dass der Markt für KI-Agenten versucht, Vertrauen durch drei gleichzeitige Versprechen aufzubauen: praktischen Nutzen, eine weniger beunruhigende Nutzererfahrung und Datenschutz. Letztlich wird sich das Vertrauen jedoch danach richten, inwieweit diese Versprechen messbar und überprüfbar sind – nicht danach, wie oft sie in Einführungspräsentationen wiederholt werden.