关注最新报道、解读和相关科技故事。
决策模型(Decision Models)作为大型语言模型的更快、更低成本的替代方案,正在经历加速增长,同时出现了一种使用用户私有数据对这些模型进行定制的新趋势。
Subquadratic宣布推出SubQ Snap决策模型。根据公司测试,该模型单次请求最多可处理384,000个词元,并声称在已发布的大多数测试中优于Jev。公司表示,该模型旨在减少人工智能代理在选择和路由任务中对大型语言模型的依赖。
TypeSafe AI 推出了 Jev 模型。这是一种基于 Transformer 架构的模型,不生成文本,而是生成经过校准的概率和决策,旨在为部分软件和自动化任务提供更快、成本更低的替代方案。开发者表示,该模型在速度和成本方面取得了显著提升,但其架构以及结果泛化能力的局限仍存在疑问。