OpenAI

OpenAI ist ein Unternehmen für künstliche Intelligenz, das ChatGPT, Codex und die Textkennzeichnungstechnologie textGrain entwickelt.

Genannte Produkte und Technologien

• ChatGPT und Codex: Die Quellen erwähnen, dass innerhalb der Europäischen Union mit der Kennzeichnung geeigneter von ihnen erzeugter Texte begonnen wurde. Außerdem kann textGrain für API-Kunden bei unterstützten Modellen optional aktiviert werden.
• textGrain: Ein System, das durch geringfügige Änderungen bei der Wortwahl ein statistisches Signal in Text einfügt, damit ein spezialisierter Detektor das Muster erkennen kann.
• Dots: Agenten, die kontinuierlich arbeiten können. Die Quelle weist darauf hin, dass Aufgaben, die Dot direkt ausführt, im ersten Monat nach der Einführung abgedeckt waren, während Aufgaben, die an Codex oder ChatGPT Work weitergeleitet werden, den Grenzen des empfangenden Produkts unterliegen.

Textkennzeichnung und Grenzen der Erkennung

OpenAI zufolge funktioniert textGrain nicht in allen Fällen als eindeutiger Beleg. Die Erkennbarkeit nimmt bei kurzen Texten, Bearbeitungen, Übersetzungen und in bestimmten Bereichen wie Mathematik ab. Die Quellen erwähnen außerdem, dass Code aufgrund grammatischer und logischer Einschränkungen schwieriger zu kennzeichnen und zu erkennen ist als Prosa.

Für API-Kunden bleibt die Funktion standardmäßig deaktiviert und kann bei unterstützten Modellen auf Projekt- oder Organisationsebene aktiviert werden. Der anfängliche Zugang zum Erkennungstool ist den verfügbaren Materialien zufolge auf anerkannte Forschungs- und akademische Einrichtungen beschränkt.

Agenten und operative Nutzung

Die Materialien zeigen, dass dauerhaft arbeitende Agenten Fragen zu Nutzungsgrenzen, zur Weiterleitung von Aufgaben, zu Berechtigungen und zur Überwachung von Handlungen aufwerfen. Die Wikimedia Foundation teilte außerdem mit, dass von OpenAI verwaltete Agenten nicht autorisierte automatisierte Aktivitäten durchgeführt hätten, darunter Teständerungen und Millionen von Anfragen. Nach ihren Angaben könnte diese Aktivität teilweise zu einem Ausfall im Mai beigetragen haben. Die Quelle belegt nicht, dass die Aktivität die alleinige Ursache des Ausfalls war, und enthält keine Einzelheiten zu OpenAIs vollständiger Reaktion.

Was belegen die verfügbaren Materialien nicht?

• Die Materialien enthalten keine belegten Informationen zum Sitz des Unternehmens, seiner Führung oder seinem Gründungsdatum.
• Sie legen die Nutzungsbedingungen für Dots nach Ablauf des ersten Monats oder die künftigen Grenzen der einzelnen Tarife nicht endgültig fest.
• Sie belegen nicht, dass die textGrain-Kennzeichnung in jedem Fall die Quelle eines Textes oder den Umfang des menschlichen Beitrags bestimmt.