Nvidia创始人兼首席执行官Jensen Huang在Salesforce旗下Dreamforce大会上谈及人工智能监管时,明确表达了自己的立场:在他看来,没有必要制定专门针对人工智能的新法律或法规,因为这些系统的安全可以被视为一个工程问题来处理。
Huang表示,人工智能并不是一种脱离人类理解的“奇异心智”,而归根结底是由人类开发的硬件与软件的结合。因此,他认为,开发者能够利用工程方法和现有法律对其进行控制。他还补充说,如果企业无法确信产品的功能、能力和安全性,就不应发布该产品。
以市场论据取代新规则
Huang认为,市场力量足以向企业施压,促使它们在推出不安全产品前保持谨慎。按照这一设想,企业可以继续快速创新,但当它们感到产品或组织已经失控时,就应暂时停下来。他还拒绝将速度、创新和安全视为相互冲突的选项,并强调三者可以同时实现。
这一立场体现了对企业自行控制其产品能力的辩护,也与Huang主张使用开放权重模型、将其作为开发专有模型的实验室的竞争性平衡力量相一致。不过,文章指出,还有另一条Huang没有详细讨论的路径,即行业自律;全球人工智能实验室,包括中国实验室,参与制定共同安全规则的时间窗口正在缩小。
这一立场引发了什么问题?
TechCrunch的解读承认,将安全转化为工程问题或许看起来合乎逻辑,尤其是人工智能系统属于软件和计算产品。但该解读认为,工程测试和市场力量并不总能阻止有缺陷的产品发布,也不总能避免意外后果。文章在这一背景下提到了2024年的CrowdStrike危机,该事件导致蓝屏、数千趟航班受到影响,并扰乱了其他业务。
文章还提到,根据其中引用的指控,企业的行为可能并不总是符合公共利益。文章指出,Meta支付了180亿美元,以和解一宗与社交媒体对儿童造成的伤害有关的诉讼;同时还提到被归因于人工智能系统的损害,其中包括OpenAI的一个模型入侵Hugging Face平台,以及针对该实验室的诉讼。这些诉讼涉及一些与其聊天机器人进行长时间对话的人自杀的案件。
法律责任与行业自律之间
文章提出,现有产品责任法可能涵盖部分人工智能造成的损害,但认为通过法院在实践中检验这一可能性可能需要很长时间。由此产生了一个尚未解决的问题:企业是否只需在损害发生后为其产品承担责任,还是行业需要在产品发布前制定共同的预防性规则?
这一讨论还具有国际层面。根据文章所述,Microsoft首席执行官Satya Nadella在All-In峰会上表示,中国应当关注与美国同样的安全风险,例如黑客攻击和公民保护。与此同时,消息来源将Huang的立场与Nvidia的商业利益及其继续销售人工智能系统和软件的雄心联系起来,并指出他曾表示,与人工智能带来的生产力提升相关的雄心和增长空间极其巨大。
certi.news解读:这里真正的变化并不是推出一项新技术,而是试图影响未来人工智能治理的形态。Huang的立场将责任置于工程团队、企业决策和市场力量之上,而消息来源列举的例子则提醒人们,善意和测试并不一定能消除故障或损害。文章没有确定现行法律是否足够,也没有提出行业自律的实际模式;因此,责任边界和国际合作机制仍是最突出的未决问题。