OpenAI wird in den kommenden Wochen damit beginnen, Texten, die ChatGPT und Codex für berechtigte Nutzer innerhalb der Europäischen Union erzeugen, ein unsichtbares Wasserzeichen hinzuzufügen. Der Schritt soll der Einhaltung der Transparenzvorschriften des europäischen KI-Gesetzes dienen. Die Einführung wird alle Tarife umfassen, während die Kennzeichnung von Texten zu Beginn nicht weltweit standardmäßig aktiviert wird.
Die Transparenzvorschriften traten am 2. August in Kraft und verpflichten KI-Unternehmen, automatisch erzeugte Inhalte so zu kennzeichnen, dass andere Systeme sie erkennen können. Entwickler, die die Programmierschnittstelle von OpenAI weltweit nutzen, können die Funktion dagegen ab sofort bei bestimmten Modellen aktivieren; standardmäßig ist sie jedoch deaktiviert.
Wie funktioniert das Wasserzeichen?
Das Wasserzeichen erscheint nicht als Symbol oder sichtbarer Hinweis, sondern wird durch eine präzise Anpassung der vom Modell vorgeschlagenen Wortauswahl erzeugt. Diese Anpassung hinterlässt ein Muster, das von einem spezialisierten Erkennungstool erkannt werden kann; das Muster bleibt auch beim Kopieren und Einfügen des Textes erhalten. OpenAI erklärt, dass das Wasserzeichen die Identität des Nutzers nicht preisgibt und seine Aktivierung die Leistung der Modelle in den Tests des Unternehmens nicht nennenswert verändert habe.
OpenAI veröffentlichte zeitgleich einen technischen Bericht über seine Methode namens textGrain, der von Forschern des Unternehmens sowie der University of Pennsylvania und der Yale University erstellt wurde. Die Methode basiert dem Bericht zufolge darauf, mithilfe eines geheimen Schlüssels die Wahrscheinlichkeiten der nächsten Wörter während der Vervollständigung von Sätzen zu ordnen und anschließend Hunderte dieser Anpassungen zusammenzuführen, damit der Detektor das Muster anhand des Textes und des Schlüssels erkennen kann.
Grenzen der Erkennung nach einer Bearbeitung
Das Wasserzeichen liefert nicht in allen Fällen einen eindeutigen Beleg für die Herkunft des Textes. In einem von OpenAI durchgeführten Test senkte das Ersetzen von 10 % der Wörter durch Synonyme die Erkennungsrate von etwa 92 % auf 66 %. Außerdem stellte das Unternehmen fest, dass kurze Passagen, mathematische Antworten und übersetzte Texte schwerer zu erkennen sind.
OpenAI warnt davor, dass das Fehlen eines Wasserzeichens nicht beweist, dass ein Mensch den Text verfasst hat; der Text könnte zu kurz sein, stark bearbeitet worden sein oder von einem KI-System eines anderen Unternehmens stammen. Auch das Vorhandensein des Wasserzeichens kann darauf hindeuten, dass ein System von OpenAI einen Teil der Passage erstellt oder verarbeitet hat, legt jedoch nicht fest, wie viel menschliches Urteilsvermögen, Bearbeitung oder Kreativität in ihre Erstellung eingeflossen ist.
Warum ist diese Nachricht wichtig?
Die Einführung bietet europäischen Institutionen ein zusätzliches technisches Mittel zur Prüfung von Inhalten aus ChatGPT und Codex, löst jedoch für sich genommen nicht das Problem des Nachweises der Textherkunft. Da die Erkennung durch Bearbeitung, Übersetzung und Textlänge beeinflusst werden kann, müssen die Ergebnisse vorsichtig interpretiert werden. Deshalb beschränkt OpenAI den anfänglichen Zugang zu den Erkennungstools auf anerkannte Forscher und spezialisierte Organisationen, um deren Zuverlässigkeit und verantwortungsvolle Nutzung zu bewerten.
Der Schritt folgt auf die vor zwei Monaten erfolgte Ankündigung von Anthropic, die weltweit von Claude erzeugten Texte zu kennzeichnen. Diese Entscheidung stieß bei einigen Nutzern auf Einwände, da sie der Ansicht waren, dass ihr Beitrag zu Anweisungen, Kontext und Entscheidungen Claude zu einem Werkzeug und nicht zu einem Autor mache. OpenAI hatte zuvor eine Technik zur Kennzeichnung von Texten entwickelt, von ihrer Veröffentlichung jedoch abgesehen. Grund dafür waren Befürchtungen, Nutzer könnten zu Konkurrenten wechseln, die keine Kennzeichnung verwenden, wie aus einem Bericht hervorgeht, den The Wall Street Journal 2024 veröffentlichte.