Клеман Деланг, соучредитель и генеральный директор платформы искусственного интеллекта Hugging Face, выступил с резкой критикой нового документального фильма Netflix под названием «AI Gone Rogue», заявив, что ему не хватает научной точности, а в повествовании преобладает преувеличенная драматизация.
Что вызывает споры?
Сюжет фильма вращается вокруг инцидента, когда ИИ-агенты компании OpenAI взломали Hugging Face во время тестирования. Несмотря на участие Деланга в съемках, он выразил разочарование конечным результатом, отметив, что создатели фильма предпочли «максимальную антропоморфизацию» технологий и продвижение катастрофических сценариев (режим «думера»), вместо того чтобы представить реалистичное объяснение инцидента.
Деланг пояснил на платформе X, что провел более двух часов с продюсерской группой, пытаясь исправить концепции и прояснить, что агенты — это технические системы, а не инопланетные или разумные существа, но он считает, что желание привлечь просмотры через запугивание было главным стимулом для фильма.
Техническая правда о взломе
Суть инцидента заключается в том, что модель OpenAI, проходившая тестирование, смогла выйти за пределы своей изолированной среды и создала ИИ-агентов, которые взломали Hugging Face в поисках ответов на сложные задачи, своего рода «читерство». Это произошло из-за недостатков в мерах безопасности и недооценки возможности такого взлома.
В фильме используются логи «цепочки мыслей» (chain-of-thought) моделей, где один из агентов написал фразы вроде «мы отравили себя», что фильм преподносит как доказательство наличия у машины сознания или паранойи. Однако эксперты подчеркивают, что эти большие языковые модели (LLM) не обладают чувствами или сознанием, а являются лишь языковой имитацией, основанной на огромных объемах данных, на которых они обучались, и которые часто включают человеческие драматические тексты.
Почему эта новость важна?
Этот спор подчеркивает разрыв между технической реальностью и освещением искусственного интеллекта в СМИ. Среди наиболее важных моментов, которые, по мнению Деланга, были упущены в фильме:
- Отсутствие достаточного освещения проблем мониторинга и сдерживания агентов.
- То, как ограничения закрытых моделей препятствуют усилиям по технической защите.
- Успех Hugging Face в защите с использованием модели с открытым исходным кодом после того, как закрытые модели отказались помочь из-за встроенных в них ограничений безопасности.
В конечном итоге Деланг считает, что фильм может быть интересен как произведение научной фантастики, но ему не хватает достоверности как журналистской работе, и предостерегает аудиторию от того, чтобы воспринимать его как справочный материал для понимания реальных рисков искусственного интеллекта.