Elon Musk 宣布,Grok Bot 将为每项任务选择最合适的人工智能模型,而不是始终依赖 Grok。Musk 写道,SpaceX 将使用“最佳后端模型”来实现最佳结果,并提到 Claude Opus 5.5、MidJourney、Suno 及其他接口都可能成为选项。
Grok Bot 是 SpaceXAI 与 Cursor 的联合产品。SpaceXAI 是 Musk 旗下的人工智能实验室,已并入 SpaceX。SpaceX 于 6 月同意以 600 亿美元的股票收购 Cursor,并于 8 月完成交易。Grok Bot 也在同月以测试版发布。
模型分配已成为降低成本的手段
文章将这种做法称为“模型分配”:根据工作的类型和成本,将每项请求转交给合适的模型,同时把价格较高的模型留给更复杂的任务。根据作者对参加 Insight Partners 旗下 ScaleUp:AI 活动的 22 家公司负责人进行的访谈,其中至少有 10 人表示他们采用了这种方式。
在一个例子中,一家安全公司首先使用规则引擎检查数据,然后将剩余数据交给小型模型。该公司一名负责人表示,让任何模型处理 PB 级数据,即使是小型模型,也可能花费数百万美元。在另一个例子中,一家公司使用低成本模型理解用户请求,然后将其转交给更昂贵的模型来执行任务。
主要动机是控制令牌支出。一些公司最初为人工智能设定了开放式预算,随后又回到一个更精确的问题:为所有这些令牌,它们究竟实际买到了什么?其他公司也在尝试培训员工选择合适的模型,而不是自动使用最强大的模型。
价格更低的模型承担大部分请求量
OpenRouter 的数据反映了这一趋势。OpenRouter 是一项允许通过单一连接访问数百个模型的服务。在截至 2026 年 10 月 7 日的一周内,四个低成本且速度较快的 Flash 模型按令牌数量计进入使用量最高的十个模型之列。DeepSeek V4.1 Flash 以 33.6 万亿个令牌位居榜首,GLM 5.3 Flash 以 10.5 万亿个令牌紧随其后,MiMo-V2.6-Flash 则为 10.1 万亿个令牌。
相比之下,Claude Opus 5.5 的使用量一周内增长了 74%,达到 3.37 万亿个令牌,但按规模计算仍排名第九。文章对此的解释是,这一先进模型获得的任务份额正在增加,但并未承担大部分使用流量。
The New Stack 测试中提到的结果表明,价格更低的模型在许多情况下可能已经足够:Claude Sonnet 5.5 通过了全部 15 项编程测试,成本比 Opus 5.5 低 42%;GPT-6.1 Sol 的准确率与 GPT-6 Astra 持平,而成本仅为后者的 18%。
实际发生了什么变化?
这一转变并不意味着最强大的模型变得不再必要,而是意味着选择它已成为一项需要指导和测试的运营决策。文章警告了快速切换的风险:某工程团队在一次重要演示前用一个模型替换了另一个模型,结果失败,随后不得不撤销改动。最终结论是,在切换模型前必须进行评估测试。
OpenRouter 的数据仍然只是一个指标,而不是对整个市场的完整测量,因为它反映的是本来就选择使用模型路由器的服务用户;此外,令牌数量无法衡量用户数量或支出,企业合同也可能更加稳定。但这一指标与受访公司的做法以及 Grok Bot 的发布结合起来,表明人们对单一模型的忠诚正在减弱,取而代之的是根据任务和成本选择模型的架构。
新闻来源
The New Stack - Software Development
查看原始来源 ↗