Sicherheitsforscher des Unternehmens "Claroc" haben eine Sicherheitslücke im neuen KI-Assistenten "Muse" von "Meta" entdeckt, die den Zugriff auf äußerst sensible Informationen von Einzelpersonen und Unternehmen ermöglicht. Das Problem liegt in der Art und Weise, wie Web-Links zum Teilen von Gesprächen generiert werden: Es stellte sich heraus, dass diese über öffentliche Suchwerkzeuge leicht auffindbar sind, trotz früherer Zusicherungen des Unternehmens, dass das Tool unter höchster Berücksichtigung der Privatsphäre entwickelt wurde.
Wie werden Daten geleakt?
Die Teilen-Funktion in Muse basiert auf der Generierung eines eindeutigen Links (URL), der es jedem, der ihn besitzt, ermöglicht, den Inhalt des Gesprächs, Bilder oder Suchergebnisse einzusehen. Unternehmen verwenden in diesen Links üblicherweise lange und komplexe Zeichenfolgen, um ein Erraten zu verhindern. Die Forscher stellten jedoch fest, dass eine zentrale Designentscheidung in der Struktur dieser Links sie anfällig für massenhaftes Auffinden machte.
Die Forscher nutzten eine Technik namens "Passive DNS-Suche" (Passive DNS search) über verfügbare kommerzielle Dienste, die es ihnen ermöglichte, 6.800 Links einzugrenzen, die von Muse-Nutzern geteilt wurden. Sobald eine Stichprobe dieser Links geöffnet wurde, tauchten Daten auf, die unter keinen Umständen für die Öffentlichkeit zugänglich sein sollten.
Beispiele für offengelegte Daten
Der Bericht enthüllte schockierende Inhalte, die in den geleakten Links enthalten waren, darunter:
- Die Notizen eines Kandidaten für eine Führungsposition, der sich auf ein geheimes Gespräch mit einem führenden KI-Labor vorbereitet, einschließlich interner Kontaktnamen und Meeting-Termine.
- Eine interne Umsatzüberprüfung für ein nationales Marketingunternehmen, die speziell an den Geschäftsführer gerichtet war.
- Ein Kreditantrag für einen Kleinunternehmer, der den geforderten Betrag und Geschäftsdetails darlegt.
- Eine Aufgabenliste mit einer Warnung von einer Bank über Betrug, zusammen mit teilweisen Kontonummern und Transaktionsdetails.
- Ein interner Leistungsbericht für einen Immobilieninvestor, der spezifische Immobilienadressen sowie genaue Einkommens- und Hypothekenzahlen enthält.
- Der jährliche Urlaubsplan der Mitarbeiter für einen Arbeitgeber, in dem Dutzende von Mitarbeitern mit ihren Abwesenheitsdaten aufgeführt sind.
Widerspruch zu Datenschutzversprechen
Diese Entdeckung bringt Meta in eine peinliche Lage, zumal Geschäftsführer Mark Zuckerberg letzten Monat erklärt hatte, Muse sei "von Grund auf mit Fokus auf Datenschutz und Sicherheit gebaut" worden. Die Forscher erklärten, dass der Prozess des Sammelns dieser Links nicht den erwarteten großen Aufwand erforderte, sondern über eine einzige Abfrage erfolgte, da für alle geteilten Links die Subdomain (cf.metaaiusercontent.com) verwendet wurde. Dies erleichterte das Nachverfolgen und Archivieren in öffentlichen DNS-Datenbanken, sobald sie zum ersten Mal angeklickt wurden.
Was ändert sich praktisch für die Nutzer?
Dieser Vorfall verdeutlicht, dass die Funktion "Über Link teilen" in KI-Tool-Strukturen verborgene Sicherheitsrisiken birgt, wenn die Domain-Infrastruktur nicht streng abgesichert wird. Für die Nutzer bedeutet dies, dass jedes Gespräch, das in einen Freigabelink umgewandelt wird, technisch als "öffentlich" betrachtet werden muss, selbst wenn der Link nicht öffentlich auf Social-Media-Plattformen veröffentlicht wurde. Nutzern von KI-Tools wird empfohlen, das Teilen von Gesprächen mit Finanzdaten, Geschäftsgeheimnissen oder spezifischen personenbezogenen Daten zu vermeiden und stattdessen auf das manuelle Kopieren von Texten zu setzen sowie diese über verschlüsselte Kommunikationskanäle abzusichern, um ein Durchsickern in Suchmaschinen oder Sicherheitsdatenbanken zu verhindern.