マーケティング目的でのディープフェイク(Deepfakes)技術の使用の境界線をめぐって議論を呼ぶ動きとして、MetaのAI責任者であるアレクサンダー・ワン(Alexandr Wang)は、新しいAIエージェント「Muse」のプロモーションキャンペーンの一環として、OpenAIのCEOであるサム・アルトマン(Sam Altman)が登場する、完全にAIによって生成されたビデオを公開した。
Instagramを通じて公開されたこの動画は、ワン、マーク・ザッカーバーグ(Mark Zuckerberg)、そしてアルトマンによる4人でのビデオ通話を描いており、アルトマンはMuseのマスコットキャラクターである「ジョリー(Jolly)」の衣装を身にまとっている。動画にはAI生成コンテンツであることを示すラベルが付いているものの、この出来事は、ソーシャルメディアプラットフォームにおける偽のデジタルコンテンツへの対応における規制のギャップを浮き彫りにしている。
Metaのポリシーと偽造コンテンツのジレンマ
Metaのポリシーは現在、AIを使用して人物を描写するビデオにラベルを付けることを義務付けており、ワンは投稿においてこれを遵守している。しかし、静止画の取り扱いにおいて大きな規制上の問題が浮上している。プラットフォームはラベル付けを義務付けていないため、最近女優のミア・ゴス(Mia Goth)に起きたケースのように、許可なく著名人の偽画像が拡散する道を開いてしまっている。彼女の代理人は、デジタルアイデンティティの保護という観点から、これを「理解不能」であると表現している。
実務面で何が変わるのか?
この行為は、技術リーダーがディープフェイク技術をどのように扱うかにおける転換を象徴している。人間を模倣するためにこれらの技術を使用することに対する法的および倫理的な警告が長年なされてきた後、大手企業は「偽造」を非伝統的なマーケティング戦略(アンチPR)の一部として統合し始めているようだ。
この傾向は、いくつかの軸について根本的な疑問を投げかけている:
- デジタルアイデンティティの保護:マーケティング上の創造性はどこで終わり、人格権の侵害はどこから始まるのか?
- 基準の不一致:なぜプラットフォームはビデオには厳格な制限を課し、静止画については見過ごしているのか?
- 偽造の正常化:リーダーによるこれらの技術の使用は、特に政治的に敏感な時期において、偽コンテンツに対する社会的な警戒心を弱めることにつながるのだろうか?
Meta側は、アルトマンがOpenAIのSoraアプリのリリースなど、以前の文脈において自身の画像をAI生成コンテンツに利用することを許可していたと指摘しており、これは生成AI時代における新しいゲームのルールの一部として「黙示的な同意」が定着し始めているという仮説を裏付けている。