一份由20多名研究人员和专家共同参与编写的研究报告警告称，如果人工智能系统能够实现研究与开发的自动化，并以较少的人为干预反复提升自身能力，人工智能可能进入被称为“智能爆炸”的阶段。这一情景可能将数年的技术进步压缩到几个月甚至更短时间内。
该报告题为《如果人工智能研发自动化引发智能爆炸，会怎样？》，参与编写者包括加拿大计算机科学家约书亚·本吉奥、诺贝尔奖得主杰弗里·辛顿、Anthropic联合创始人杰克·克拉克，以及OpenAI首席科学家雅各布·帕丘茨基。
加速可能如何开始？
研究人员重点关注“迭代式自我改进”这一概念，即人工智能系统能够参与开发新系统并提升自身能力，而无需每个阶段都进行直接人为干预。报告认为，人工智能研发自动化是最有可能引发这种加速的路径，因为当前系统已经被用于协助开发人工智能技术，而且改进后的版本也可以迅速部署。
报告称，如果系统达到研发领域专家的水平，一名开发人员或许能够调动相当于“数百万”名专业人类研究人员的研究力量。但潜在结果并不只是生产力提高；发展的速度可能超过政府、企业和机构调整监管机制与权力分配的能力。
为什么这条消息重要？
这一警告的重要性在于，讨论的并不只是某个新模型或某项特定的商业能力，而是人工智能开发周期本身发生变化的可能性。如果这一情景成为现实，从发现新能力到为其建立监管措施之间的间隔，可能会比通常的监管周期短得多。
报告指出，这一趋势可能带来一些好处，包括加快医学发现和技术进步。但报告同时警告，极其强大的系统可能被用于以超过人类创造应对手段能力的速度开发生物或网络威胁。各国也可能利用人工智能领域迅速形成的优势，将网络空间等领域的有限进展转化为决定性优势。
在为时已晚之前采取的建议措施
报告作者呼吁各国政府在任何潜在的智能爆炸开始之前采取行动，因为进程启动后，干预窗口可能会收窄。建议包括：
- 要求人工智能公司就其研究进展提交透明报告。
- 允许独立审计人员监督公司内部的研究与开发流程。
- 对系统发展的速度设定限制。
- 与数据中心合作，以便在需要时停止部分研究与开发项目。
- 将自动化研发系统与可能使其脱离人类控制范围的路径隔离。
- 针对不同情景制定应急响应计划。
2028年是时间估计，而非确定日期
报告指出，到2028年，需要数月人类工作才能完成的研发项目可能实现完全自动化。但报告说明，目前的生产力增益尚未达到引发“智能爆炸”所需的水平，尽管较新的系统正接近这一界限。
编辑解读：报告并未给出这一情景发生的确定日期，同时承认供应链、专用材料和监管审批可能减缓发展。因此，这一警告的实际价值在于促使决策者在研发速度本身成为监管障碍之前，测试透明度、停止机制和应急响应机制，而不是将2028年视为一个已经确定的转折点。