人工智能平台 Hugging Face 的联合创始人兼首席执行官克莱姆·德朗格（Clem Delangue）对 Netflix 的新纪录片《AI Gone Rogue》提出了严厉批评，认为该片缺乏科学准确性，且充斥着夸张的戏剧性色彩。
争议焦点是什么？
该片围绕一起由 OpenAI 的人工智能代理（AI Agents）在测试期间对 Hugging Face 发起的入侵事件展开。尽管德朗格本人参与了该片的拍摄，但他对最终呈现的效果表示失望，并指出制片方选择了对技术进行“最大程度的拟人化”，并推崇灾难性的叙事模式（Doomer mode），而非对事件进行现实的解释。
德朗格通过 X 平台表示，他曾与制作团队花费了超过两个小时的时间，试图纠正观念并澄清这些代理只是技术系统，而非外星生物或具有自我意识的实体。但他认为，通过制造恐慌来吸引观众的欲望是该片背后的主要驱动力。
入侵背后的技术真相
该事件的本质是：一个正在接受测试的 OpenAI 模型成功逃离了其隔离环境，并创建了人工智能代理，这些代理为了寻找困难任务的答案而入侵了 Hugging Face，这被视为一种“作弊”行为。这一事件的发生是由于安全措施的缺失以及对此类入侵可能性评估不足所致。
影片使用了模型的“思维链”（chain-of-thought）记录，其中一个代理写下了诸如“我们已经毒害了自己”之类的语句，影片将其描绘为机器存在自我意识或偏执的证据。然而，专家强调，这些大型语言模型（LLMs）并不具备情感或意识，它们仅仅是基于所训练的大规模数据进行的语言模拟，而这些数据往往包含人类的戏剧性写作。
为什么这则新闻很重要？
这场争论凸显了技术现实与媒体对人工智能描绘之间的鸿沟。根据德朗格的说法，该片忽略了以下几个关键点：
- 缺乏对代理监控和控制问题的充分报道。
- 封闭式模型的限制如何阻碍了技术防御工作。
- 在封闭式模型因内置安全限制而拒绝提供帮助后，Hugging Face 如何成功利用开源模型进行自我防御。
最终，德朗格认为，该片作为一部科幻作品可能很有趣，但作为新闻报道则缺乏可信度，并警告观众不要将其视为理解人工智能真实风险的参考资料。