Anthropic 首席执行官达里奥·阿莫代伊表示,公众对人工智能的负面看法本质上反映了公众、企业、政府与科技行业之间的信任危机,而不是行业领导者所传达的警示信息直接造成的结果。他的这番言论是对投资者加文·贝克的回应。贝克认为,阿莫代伊对人工智能风险的警告助长了美国国内的负面反应,尤其是针对数据中心的反应。
贝克此前曾在 All-In 节目和 X 平台上批评 Anthropic 支持某些监管形式的立场,其中包括一项要求大型人工智能公司履行透明度要求的加利福尼亚州法案。他表示,鉴于阿莫代伊领导的是一家有望成为全球最重要企业之一的公司,他应当对其所在行业呈现更积极的形象,并认为他在人工智能监管问题的讨论中败下阵来。
阿莫代伊拒绝将警告归咎于公众怀疑
阿莫代伊回应称,他传达的信息并没有不成比例地偏向负面,并指出这些信息大致平均分配于人工智能的风险与益处之间。他还表示,自己撰写《Machines of Loving Grace》一文,是因为他没有看到该行业充分呈现这项技术将世界变得更美好的鼓舞人心的能力。
尽管承认公众对人工智能的整体看法是负面的,而且这构成一个重大问题,阿莫代伊仍拒绝表示这种负面情绪主要源于行业领导者的警告。按照他的解释,普通公众不信任企业、政府或科技行业,并倾向于认为这些机构可能正在开发一种伤害他们的新方法。阿莫代伊认为,针对人工智能的反应,是数十年来形成的信任危机的最新表现。
阿莫代伊认为怎样的批评更准确?
阿莫代伊表示,对包括 Anthropic 在内的人工智能公司的更准确批评是,它们尚未兑现让世界受益的宏大承诺。他补充说,责任在于企业自身,而“人工智能将治愈癌症”之类的公开承诺,与其说是鼓舞人心,不如说已经更接近陈词滥调。在他看来,真正可能改变人们态度的是取得切实成果,而不是改善营销或媒体信息。
在降低风险与集中力量之间进行监管
阿莫代伊还拒绝将监管讨论描述为一种二选一:要么毫无限制地部署人工智能,要么由于政府规则而将这项技术限制在少数几家公司手中。他表示,硅谷普遍存在一种将监管等同于监管俘获和权力集中的观点,这种观点过度简化了现实,因为在这一圈子之外,许多人认为监管能够限制企业影响力并保护个人。
他解释说,Anthropic 正在谨慎制定其政策提案,目标是在放缓领先人工智能公司的同时,给予规模较小的公司相对优势。阿莫代伊认为,人工智能是一种从其结构来看倾向于集中权力的技术,而开放权重模型只能部分解决这一问题,因为它们会将部分集中转移到拥有最大计算能力和芯片资源的机构。
阿莫代伊表示,适当的“道路规则”可以应对网络安全、生物安全和对齐风险,并从制度上限制领先人工智能公司的力量,同时为开放权重模型保留发展空间,并处理与其相关的特殊风险。这一观点将分歧的核心置于如何建立信任并实现实际利益,而不仅仅是选择更加乐观或悲观的表达方式。