Google hat das Tool SynthID zur Erkennung von mit künstlicher Intelligenz erstellten oder bearbeiteten Inhalten erweitert und eine eigene Website gestartet, über die jeder Nutzer Bilder, Videos und Audio auf ein unsichtbares Wasserzeichen prüfen kann. Statt sich auf Gemini zu verlassen, um eine Antwort auf die Frage nach dem Vorhandensein des Wasserzeichens zu erhalten, können Nutzer die Datei nun auf SynthID.com hochladen und direkt ein Ergebnis erhalten.
Was hat sich geändert?
SynthID fügt ein verborgenes Signal in die Pixel von Bildern und Videos oder in die Audiowellenform ein. Google zufolge hat Gemini diese Technologie in mehr als 180 Milliarden Bilder und Videos sowie in Audioinhalte im Umfang von umgerechnet 240.000 Jahren integriert. Prüfungen außerhalb des Programms für vertrauenswürdige Tester liefen zuvor über Gemini. Dieser Ansatz war nicht immer praktikabel, insbesondere wenn Nutzer eine klare binäre Antwort benötigten.
Die größte Einschränkung des früheren Google-Tools bestand darin, dass es nur Googles Version von SynthID überprüfte. Die neue Website unterstützt dagegen die verschiedenen Wasserzeichen der SynthID-Partner, darunter OpenAI, Nvidia und Kakao. Laut einer Ankündigung von Google soll Apple künftig hinzukommen. Damit wird die Website zu einer zentralen Prüfstelle, sodass nicht mehr für jeden Anbieter separate Tools benötigt werden.
Nutzungsbeschränkungen und Ergebnisse
Die Website zeigt nicht die Details an, die im internen Tool verfügbar waren, etwa die Bestimmung der Bereiche eines Bildes, die SynthID-Pixel enthalten. Stattdessen teilt sie dem Nutzer lediglich mit, ob das Wasserzeichen zur Erstellung oder Bearbeitung der Medien verwendet wurde.
Für die Nutzung des Dienstes ist eine Anmeldung erforderlich; akzeptiert werden Google-, OpenAI- und Apple-Konten. Außerdem legt Google ein tägliches Kontingent von etwa 10 Prüfungen von Bildern, Videos und Audio pro Nutzer fest. Laut Angaben, die Ars Technica von Google-Ingenieuren erhielt, soll diese Beschränkung verhindern, dass das Tool zur Entwicklung von Methoden zum Entfernen oder Umgehen von SynthID verwendet wird. Der tatsächliche Zugang kann bei der Prüfung sehr ähnlicher Dateien weiter eingeschränkt werden, da dies auf den Versuch hindeuten kann, einen Arbeitsablauf zur Umgehung des Detektors abzustimmen.
Warum SynthID allein nicht ausreicht
Der erweiterte Zugang zu SynthID erleichtert die Überprüfung der Fingerabdrücke mehrerer KI-Tools, macht das Tool jedoch nicht zu einem umfassenden Detektor. Einige Unternehmen wie Meta verwenden andere Kennzeichnungstechnologien, während andere Modelle überhaupt kein Wasserzeichen hinzufügen. Auch Modelle mit offenen Gewichten können Inhalte lokal erzeugen, ohne ein einfaches Wasserzeichen oder verlässliche Metadaten.
Die Entfernung des Wasserzeichens bleibt möglich. Das bedeutet, dass ein fehlendes SynthID-Ergebnis nicht beweist, dass der Inhalt original ist. Die redaktionelle Einordnung lautet hier, dass der Wert der Einführung in der Bündelung und Erweiterung der Prüfungen auf mehrere Partner liegt, nicht in einer endgültigen Lösung des Problems der Authentizitätsprüfung von Inhalten. Der umgekehrte Ansatz, der die Authentizität von Bildern, Videos und Audio bei ihrer Erstellung mithilfe von Verschlüsselungstechnologien wie C2PA nachweist, bietet einen anderen Weg. In dem Beitrag wird erwähnt, dass Pixel-Smartphones zu den Geräten gehören, die diesen Ansatz anwenden.