В шаге, вызывающем споры о границах использования технологий дипфейков (Deepfakes) в маркетинговых целях, Александр Ванг (Alexandr Wang), директор по ИИ в компании Meta, опубликовал видео, полностью созданное с помощью искусственного интеллекта, в котором появляется Сэм Альтман (Sam Altman), генеральный директор OpenAI, в рамках рекламной кампании нового ИИ-агента "Muse".
Ролик, опубликованный в Instagram, изображает Ванга, Марка Цукерберга (Mark Zuckerberg) и Альтмана в групповом видеозвонке, где Альтман одет в костюм персонажа "Джолли" (Jolly), талисмана Muse. Несмотря на то, что видео содержит пометку о том, что это контент, сгенерированный ИИ, инцидент подчеркивает регуляторные пробелы в работе с поддельным цифровым контентом на платформах социальных сетей.
Политика Meta и дилемма фальшивого контента
В настоящее время политика Meta требует обязательной маркировки видео, на которых люди изображены с помощью ИИ, что Ванг и выполнил в своей публикации. Тем не менее, возникает серьезная регуляторная проблема при работе со статичными изображениями; платформа не обязывает ставить какие-либо пометки, что открыло путь к распространению поддельных изображений общественных деятелей без их согласия, как это недавно произошло с актрисой Мией Гот (Mia Goth), что ее представители назвали "непостижимым" с точки зрения защиты цифровой личности.
Что меняется на практике?
Этот поступок знаменует собой сдвиг в том, как технические лидеры относятся к технологиям дипфейков. После многих лет юридических и этических предупреждений об использовании этих технологий для имитации людей, похоже, что крупные компании начинают внедрять "фальсификацию" как часть своих нетрадиционных маркетинговых стратегий (Anti-PR).
Эта тенденция поднимает фундаментальные вопросы по нескольким направлениям:
- Защита цифровой личности: где заканчивается маркетинговое творчество и начинаются нарушения личных прав?
- Различия в стандартах: почему платформы накладывают строгие ограничения на видео, но игнорируют их в отношении статичных изображений?
- Нормализация фальсификаций: приводит ли использование этих технологий лидерами индустрии к снижению общественной бдительности в отношении поддельного контента, особенно в чувствительные политические периоды?
Со своей стороны, Meta отметила, что Альтман ранее делал свое изображение доступным для контента, сгенерированного ИИ, например, при запуске приложения Sora от OpenAI, что подкрепляет гипотезу о том, что "подразумеваемое согласие" начинает становиться частью новых правил игры в эпоху генеративного ИИ.