关注最新报道、解读和相关科技故事。
Mistral 宣布推出 Mistral Large 4,即名为 Le Chonk 的模型。该模型拥有万亿参数,以开放权重形式提供并可进行定制,重点面向编程、网络防御及专业领域。此次预览版发布之际,先进人工智能模型的开放与控制竞争日益加剧。
Dario Amodei提出了“放缓人工智能模型发展速度”的三种机制,包括在公司内部设置独立监督员、制定共同安全标准以及开展国际协调。Anthropic方面则承诺扩大外部评估人员的访问权限,而这些提议的可实施性及其可能与竞争法发生冲突,仍是悬而未决的问题。
Y Combinator首席执行官Garry Tan认为,开发开放权重模型的美国较小型实验室应能够在美国先进模型上使用模型蒸馏技术,而不是将这一途径单独留给中国实验室。他将此视为维持封闭商业模型与开放模型之间平衡的一种方式,同时拒绝使用被盗凭证或欺诈手段。
Anthropic表示,五场与中国人工智能公司有关的活动试图通过近2亿次交互从Claude模型中提取先进能力,其中一场被归因于阿里巴巴,另一场被归因于Moonshot AI。该公司认为,这些方法可能被用于为竞争模型生成训练数据,但报告呈现的是该公司的指控,材料未提供独立证据予以证实。
CISA、NSA和FBI表示,六家中国人工智能公司自2024年底以来,通过数十亿个令牌和数百万次请求,对美国先进模型的输出实施了大规模提取行动。这些机构建议加强对API滥用的监测,并在企业之间共享相关行动的指标。
Anthropic推出Claude Fable 5.1和Claude Mythos 5.1,用于编程、科学研究和长期任务,同时将缓存读取成本降低75%,并向通过专业验证项目的用户开放Mythos版本。该公司还对API账户实施了新限制,以应对模型蒸馏攻击。