In einem Schritt, der eine Debatte über die Grenzen des Einsatzes von Deepfake-Technologien zu Marketingzwecken entfacht, hat Alexandr Wang, KI-Chef bei Meta, ein vollständig durch künstliche Intelligenz erstelltes Video veröffentlicht, in dem Sam Altman, der CEO von OpenAI, als Teil einer Werbekampagne für den neuen KI-Agenten "Muse" zu sehen ist.
Der Clip, der auf der Plattform Instagram veröffentlicht wurde, zeigt Wang, Mark Zuckerberg und Altman in einem Vierer-Videoanruf, wobei Altman in einem Kostüm der Figur "Jolly", dem Maskottchen von Muse, erscheint. Obwohl das Video mit einem Hinweis versehen ist, dass es sich um KI-generierte Inhalte handelt, beleuchtet der Vorfall die regulatorischen Lücken im Umgang mit gefälschten digitalen Inhalten auf sozialen Medien.
Metas Richtlinien und das Dilemma gefälschter Inhalte
Die Richtlinien von Meta schreiben derzeit vor, dass Videos, die Personen mittels KI darstellen, mit einem Kennzeichnungshinweis versehen werden müssen, was Wang in seinem Beitrag auch tat. Dennoch ergibt sich ein großes regulatorisches Problem beim Umgang mit Standbildern; hier schreibt die Plattform keine Kennzeichnungspflicht vor. Dies hat Tür und Tor für die Verbreitung gefälschter Bilder von Persönlichkeiten des öffentlichen Lebens ohne deren Zustimmung geöffnet, wie es kürzlich bei der Schauspielerin Mia Goth der Fall war, was ihre Vertreter als "unverständlich" im Hinblick auf den Schutz der digitalen Identität bezeichneten.
Was ändert sich in der Praxis?
Dieses Verhalten stellt einen Wandel in der Art und Weise dar, wie Technologieführer mit Deepfake-Technologien umgehen. Nach Jahren rechtlicher und ethischer Warnungen vor dem Einsatz dieser Technologien zur Nachahmung von Menschen scheinen große Unternehmen dazu überzugehen, "Fälschungen" als Teil ihrer unkonventionellen Marketingstrategien (Anti-PR) zu integrieren.
Dieser Trend wirft grundlegende Fragen zu mehreren Themen auf:
- Schutz der digitalen Identität: Wo endet kreatives Marketing und wo beginnen Verletzungen der Persönlichkeitsrechte?
- Diskrepanz der Standards: Warum setzen Plattformen strenge Beschränkungen für Videos durch, ignorieren diese jedoch bei Standbildern?
- Normalisierung von Fälschungen: Führt der Einsatz dieser Technologien durch Führungskräfte zu einer geringeren gesellschaftlichen Vorsicht gegenüber gefälschten Inhalten, insbesondere in sensiblen politischen Phasen?
Meta wies darauf hin, dass Altman sein Bild bereits in früheren Kontexten für KI-generierte Inhalte zur Verfügung gestellt hat, etwa bei der Einführung der Sora-App von OpenAI. Dies stützt die Hypothese, dass "stillschweigende Zustimmung" beginnt, Teil der neuen Spielregeln im Zeitalter der generativen KI zu werden.