OpenAI 宣布首次向广大用户和开发者开放决策 API(Decisions API)模型。此举标志着其正式进入快速且低成本的人工智能这一不断增长的市场,该领域近期一直由 TypeSafe 等初创公司及其名为 Jev 的模型所主导。
这类深度学习模型的作用是作为超强分类器;它们允许用户在众多选项中极速选择特定选项,并提供对所做决策的置信度评估。软件开发者发现,这些决策模型(即所谓的“一级系统”或 System One)能够以极低的成本和显著更短的响应时间,在许多运营工作流中取代大语言模型。
从 ChatGPT 模型到决策接口
OpenAI API 产品负责人 Nikunj Handa 说明,他的团队注意到了 Jev 模型的巨大成功,并迅速着手开发公司的替代方案。团队并没有从零开始构建专门的决策模型,而是通过重新配置 ChatGPT Luna 模型来加速推理(Inference)过程并降低运营成本。
Handa 指出,Decisions API 最显著的改进是将响应时间从 1 到 3 秒缩短至 100 到 180 毫秒之间。尽管公司随后可能会针对此目的训练完全定制的模型,但目前修改后的 Luna 版本已能高效地完成任务。
可用性与实际应用
该公司在开发者大会上首次披露后,宣布该接口已向所有客户开放,并增加了新的音频和视觉功能,同时在地理上分配推理资源,以确保全球范围内的延迟最小化。在初步测试中,Box、Datadog、Ramp 和 Speak 等公司使用了这一新 API 来提高处理效率;其中,专注于构建语言学习工具的 Speak 公司成功将操作间隔从 1.4 秒缩短至仅 0.13 秒。
性能标准与市场竞争
不同决策模型的性能衡量标准因工作负载的性质而异;虽然 AIM System One Index 和 Artificial Analysis Decision Index 等指标显示 D1 Ultra 和 Elephant-1 等其他模型处于领先地位,但根据包括测量压力下决策速度的游戏测试(如 PacMan 游戏)在内的各种测试数据,Jev 模型和 OpenAI 的接口仍保持在领先地位。
关于竞争优势,OpenAI 的负责人认为其接口在多模态方面具有优势,特别是在图像分类和高精度、高可靠性的视觉输出处理方面,团队正致力于进一步缩短响应时间,目标是实现通过 API 直接处理单个视频帧时达到 60 毫秒左右的延迟。