A Ramp lançou a plataforma Router, um serviço para direcionar solicitações de IA entre vários modelos de linguagem grandes por meio de uma única interface de programação de aplicações. A empresa afirma que desenvolveu e utilizou esse roteador internamente para atender às suas necessidades relacionadas à IA nos últimos três anos, antes de disponibilizá-lo a usuários e empresas.
A iniciativa ocorre em um momento em que as empresas de tecnologia estão recorrendo à criação de camadas intermediárias para gerenciar o acesso a modelos de IA e os custos de seu uso. O Router funciona de maneira semelhante ao OpenRouter, mas começa com um número menor de modelos e opções disponíveis em comparação com ele.
Vários modelos e estratégias por meio de uma única interface
O Router oferece acesso a modelos da OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI e Z.ai. Em vez de conectar os aplicativos a um único modelo, os usuários podem escolher como direcionar as solicitações de acordo com um conjunto de estratégias oferecidas pelo serviço.
Entre essas opções estão priorizar os níveis de uso flexíveis dos provedores de modelos ou deixar que o Router determine o modelo mais adequado para cada solicitação com base em até três critérios de desempenho definidos pelo usuário. Também é possível direcionar apenas as solicitações difíceis para modelos mais caros ou testar modelos diferentes sem alterar a integração de software a cada vez.
O serviço inclui um painel que exibe dados como o volume de gastos com tokens, o custo, o tempo de resposta, as tentativas de transferência para modelos alternativos, além de outros detalhes relacionados ao uso das solicitações.
O que muda na prática para as empresas?
O Router combina o gerenciamento do acesso aos modelos com o monitoramento do consumo de tokens e dos custos. Isso pode permitir que as empresas ajustem a relação entre a qualidade da resposta e o custo da inferência, em vez de lidar separadamente com cada provedor de modelos ou cada aplicativo. O serviço também está alinhado aos produtos atuais da Ramp relacionados ao monitoramento do uso de tokens de IA e ao gerenciamento dos gastos com eles.
Para as equipes que testam vários modelos, a existência de uma interface unificada pode ser uma forma de reduzir a complexidade operacional. No entanto, o benefício efetivo dependerá do número de modelos compatíveis, da precisão dos mecanismos de roteamento e do nível de controle que a plataforma oferece em ambientes de produção.
Disponibilidade, dados e custo
O serviço está disponível atualmente apenas nos Estados Unidos. Ele será gratuito até o fim de 2026, enquanto os usuários continuarão arcando com os custos de inferência específicos dos modelos de IA. A Ramp também anunciou um crédito de lançamento de 26 dólares, mas ainda não definiu o preço do serviço após 2026.
O Router segue uma política de retenção de dados que permite desativar a retenção, embora a configuração padrão determine o registro das entradas e saídas dos modelos e das chamadas de ferramentas durante um ano. A empresa afirma que removerá as informações que possam identificar pessoas antes de usar esse conteúdo para melhorar o produto. Os detalhes da implementação da opção de desativação da retenção continuam sendo um ponto importante para as organizações que lidam com dados sensíveis.
A aposta da Ramp no mercado de inferência
O lançamento do Router não se limita à adição de uma nova ferramenta ao portfólio da Ramp; ele abre para a empresa uma porta de entrada no crescente mercado de serviços de inferência e também pode ajudá-la a construir relações de longo prazo com laboratórios de IA e provedores de infraestrutura.
Se o Router se tornar uma plataforma atraente para testar modelos, como ocorre com o OpenRouter, a Ramp poderá usar essas relações para alcançar novos clientes e conectá-los posteriormente aos seus produtos de gestão de despesas. A empresa havia captado 750 milhões de dólares em junho, com uma avaliação de 44 bilhões de dólares, de acordo com o material de origem.