Anthropic公司宣布，它发现有人试图以可能支持生物武器开发的方式使用其人工智能模型。这一消息来自一份讨论模型滥用及可采取的限制措施的报告。该公司将其所称的生物滥用列为人工智能能力发展所带来最严重的风险之一。
报告称，相关担忧集中在以下可能性上：先进模型可能帮助使现有病原体变得更加危险，或助力开发新的病原体。公开文本没有提供实际生产生物武器的证据，但记录了Anthropic所称的几起案例，其程度已超出通常的研究用途，足以采取预防措施。
公司发现的使用案例
报告称，一名在支持不足地区工作的研究人员使用Claude协助策划有关禽流感适应哺乳动物的实验。在另一案例中，报告提到一名获得国家支持的研究人员使用该模型在计算机环境中重新设计毒素。
Anthropic没有指控这些案例中的相关人员具有恶意，并强调其决定出于谨慎考虑。报告中的这一点之所以重要，是因为风险评估并不只取决于用户身份或其公开宣称的意图，也取决于模型能够提供何种帮助，以及这种帮助被滥用的可能性。
实际发生了哪些变化？
发现这些案例后，Anthropic表示，它封禁了相关用户的账户，并采取了额外措施，以便在未来更有效地阻止此类活动。所提供的文本没有说明监测机制、封禁标准或结果验证方式等技术细节，因此仅凭这份材料无法评估防范系统的准确性或适用范围。
实际上，这一声明反映出，相关讨论已从对人工智能生物风险的理论警告，转向处理公司在其服务中发现的实际使用尝试。这对模型开发商、平台运营方和研究机构都很重要，因为防范并不只是屏蔽特定答案，还需要监测使用模式，并就账户和高度敏感活动作出决定。
certi.news解读
这里最重要的变化并不是宣布模型具备了新的能力，而是Anthropic披露了促使其对用户实施限制并更新防范措施的案例。报告还提出了一个材料没有明确回答的问题：如何区分对病原体的合法研究与可能增加武器开发风险的使用？公司表示，分享这些案例旨在启动人工智能行业内部围绕相关风险及其应对方式的对话，但现有文本没有提供足够细节，无法判断这些措施的有效性，或它们是否能够被其他公司采用。
文本还提到Anthropic前研究人员Jacob Coxon辞职一事，以及他对可能获得巨大力量和资源的人工智能系统所带来风险的警告。不过，这一提及与报告记录的案例相互独立，其本身不能证明辞职与公司宣布的封禁措施之间存在直接联系。