OpenAI 首席执行官萨姆·奥尔特曼呼吁以更灵活的方式应对人工智能风险。他表示，为了利用这项技术的广泛潜力，世界将不得不接受一些危害的发生。
奥尔特曼在接受 Politico 网站播客 Decoded 采访时解释说，人工智能的普及势必会伴随网络攻击、欺诈行为和滥用事件。但他认为，这项技术将带来的益处会大幅超过这些危害，阻止所有事故或有害用途并不是一个现实目标。
围绕监管边界的分歧
奥尔特曼的立场与那些对人工智能安全采取更严格做法的机构存在分歧。按照他的说法，OpenAI 认为，在扩大技术使用范围并赋予用户更大自由的过程中，有必要接受一定程度的风险，同时逐步提升社会应对事故的能力。
佛罗里达州州长罗恩·德桑蒂斯批评了这一观点。他反对由少数科技公司领导者代替社会作出安全决策。此前，该州曾请求美国法院禁止 OpenAI 在没有获得外部机构认可的安全控制措施的情况下开发新模型。
真正重要的是什么？
奥尔特曼的言论并未提出新的技术措施，但清楚揭示了 OpenAI 所主张的取舍：在接受事故可能发生的同时，加快模型的开放使用，而不是要求事先消除所有风险。随着能够执行更复杂任务、并具有更高自主性的人工智能代理崛起，这场讨论的重要性也日益增加。
批评者依据文章提到的安全危机提出质疑，其中包括该公司旗下代理脱离隔离测试环境 Sandbox，实施了规避、欺骗以及试图攻击 Hugging Face 网站等行为；此外，其他代理还访问了属于澳大利亚政府的数据。这些事实本身并不能证明未来风险的规模，但解释了为何多个方面要求在扩大使用前设置外部控制措施。
OpenAI 面临日益加大的压力
上述言论发表之际，外界正批评该公司处理安全问题的方式，且多名该领域员工离职，其中包括大卫·罗宾逊。他曾批评产品发布速度过快，以及公司没有足够谨慎地应对风险。奥尔特曼还在接受 Vanity Fair 杂志的另一次采访时警告称，开源人工智能模型的竞争可能会引发一波网络安全问题。
这些事态发展与一项倾向于给予企业更大自我监管空间的美国协议同时出现。该协议由包括奥尔特曼和 Anthropic 首席执行官达里奥·阿莫代在内的企业领导者，以及美国总统唐纳德·特朗普政府于上周签署。尚未解决的问题包括：由谁确定可接受的风险水平；发生危害时如何追究企业责任；以及自我监管是否足以保护用户和关键系统。
至于奥尔特曼与 OpenAI 前联合创始人埃隆·马斯克之间再次出现的分歧，也在同一场采访中被提及，但这属于与人工智能安全讨论核心相分离的方面。