Ramp公司推出了Router平台，这是一项通过单一应用程序编程接口在多个大型语言模型之间路由人工智能请求的服务。该公司表示，在向用户和企业开放之前，它已经开发并内部使用这一路由器三年，以满足自身与人工智能相关的需求。
此举正值科技公司纷纷构建中间层，以管理人工智能模型的访问权限及其使用成本之际。Router的工作方式类似于OpenRouter服务，但与后者相比，它目前支持的模型和可用选项较少。
通过单一接口使用多种模型和策略
Router可访问OpenAI、Anthropic、DeepSeek、Moonshot、Minimax、Nvidia、xAI和Z.ai的模型。用户无需将应用绑定到单一模型，而是可以根据该服务提供的一系列策略，选择如何路由请求。
这些选项包括优先使用模型提供商的灵活用量层级，或让Router根据用户指定的最多三个性能标准，为每个请求确定最合适的模型。用户还可以仅将困难请求路由至成本更高的模型，或测试不同模型，而无需每次更改软件集成。
该服务还包括一个控制面板，展示令牌支出规模、成本、响应时间、切换至备用模型的尝试次数，以及与请求使用情况相关的其他详细信息。
企业实际会发生什么变化？
Router将模型访问管理与令牌消耗及成本监控结合起来。这可能帮助企业在回答质量与推理成本之间进行调节，而不必分别处理每个模型提供商或每个应用。该服务也与Ramp现有的人工智能令牌使用监控及支出管理产品相契合。
对于测试多个模型的团队而言，统一接口可能有助于降低运营复杂性。不过，实际效用将取决于支持的模型数量、路由机制的准确性，以及该平台在生产环境中提供的控制水平。
可用性、数据与成本
该服务目前仅在美国提供。服务将免费至2026年底，但用户仍需承担人工智能模型产生的推理成本。Ramp还宣布提供26美元的启动额度，但尚未确定2026年之后的服务价格。
Router采用允许取消数据保留的数据保留政策，但默认设置规定，会将模型输入、输出和工具调用记录保存一年。该公司表示，在使用这些内容改进产品之前，将删除可识别个人身份的信息。对于处理敏感数据的机构而言，如何实施取消保留选项仍是一个重要问题。
Ramp押注推理市场
Router的推出并不仅仅是向Ramp的产品组合中增加一项新工具；它还为公司进入不断增长的推理服务市场打开了入口，并可能帮助其与人工智能实验室和基础设施提供商建立长期关系。
如果Router能够像OpenRouter一样成为测试模型的有吸引力的平台，Ramp或许可以利用这些关系接触新客户，并在之后将他们与其费用管理产品连接起来。据来源材料显示，该公司曾于6月筹集7.5亿美元，当时估值为440亿美元。