TypeSafe AI 公司推出了 Jev 模型。这是一种基于 Transformer 架构的人工智能模型，但不属于大型语言模型，也不会为用户生成文本。相反，在开发者预先确定所需输出类型后，该模型会返回公司所称的“校准决策”的概率。
公司由 Diogo Almeida 领导。他曾是 OpenAI 的研究人员，参与构建 ChatGPT，并为人类反馈强化学习（RLHF）技术的开发作出贡献。Almeida 表示，人工智能模型在很大程度上专注于改善对人类语言的处理，而软件自动化需要更加受约束、可由计算机直接使用的输出。
更高速度与更低成本
TypeSafe AI 表示，避免生成语言使 Jev 运行速度更快、成本更低，同时由于用户预先定义了可能的结果，也降低了产生幻觉的可能性。根据来源材料，该公司不对输出 token 收费，而输入 token 按十亿计量，而不是按百万计量。
该模型迅速引起开发者关注，以至于其应用程序编程接口因需求激增而一度暂停向用户提供服务。在 Vercel 进行的一项、旨在对命令进行分类以便安全审查的测试中，软件工程师 Pranit Sharma 表示，用 Jev 替代 OpenAI 的某个模型后，结果速度提升了 5 至 18 倍，同时准确率更高。
在另一项对商业电子邮件进行分类的测试中，Bryo AI 技术总监 Nikhil Mudholkar 发现，Gemini 的准确率略高，但成本高出 10 至 20 倍。Mudholkar 认为，Jev 返回的置信度分数对自动化更为重要，因为它提供了一个概率，可用于决定是否应执行某项操作或忽略该操作。
实际会发生什么变化？
这些用途表明，Jev 并不一定旨在取代语言模型的所有任务。它可以承担分类、将请求路由至合适的模型、监控人工智能代理的影响，或检测试图突破限制的行为。在这些场景中，更快的速度和更低的成本可以让实时监控变得更加可行。
但依赖概率并不会消除对人工判断或运行规则的需求。Earendil 技术总监 Armin Ronacher 指出，用户必须确定如何处理 50% 或 95% 这样的分数，也就是说，在将输出转化为自动化操作之前，需要设定明确的阈值。这样一来，处理不确定性的部分责任就从模型转移到了应用设计上。
未公开的架构与即将出现的竞争
TypeSafe AI 尚未披露 Jev 的架构细节，而外部观察人士怀疑它可能构建在一个开放权重语言模型之上；来源材料中公司并未证实这一点。TypeSafe AI 将该模型描述为一种专注于直觉和选择合适任务的“System One 模型”，并表示它完全使用合成数据训练，采用了一项名为“校准决策强化学习”的技术。
certi.news 的解读认为，Jev 的重要性不仅在于它是一个新模型，还在于它将人工智能作为软件内部的专业决策层，而不是通用聊天界面。如果上述测试结果属实，这种方法可能适合输出确定的重复性任务。然而，已公布的比较范围有限，仅凭这些比较不足以判断其在不同领域或工作负载下的表现；此外，架构和数据生成方式的不透明，也留下了关于可验证性和可扩展性的疑问。
TypeSafe AI 计划以不同模式构建该模型的其他版本，Ronacher 预计，在这种模型的实际价值变得更加明确后，将会出现竞争者。