La empresa Ramp ha lanzado la plataforma Router, un servicio para enrutar solicitudes de inteligencia artificial entre varios modelos de lenguaje grandes mediante una única interfaz de programación de aplicaciones. La compañía afirma que desarrolló y utilizó este enrutador internamente para satisfacer sus necesidades relacionadas con la inteligencia artificial durante los últimos tres años, antes de ponerlo a disposición de usuarios y empresas.
La medida llega en un momento en que las empresas tecnológicas están optando por construir capas intermedias para gestionar el acceso a los modelos de inteligencia artificial y los costos de su uso. Router funciona de manera similar al servicio OpenRouter, aunque comienza con una cantidad menor de modelos y opciones disponibles en comparación con este.
Múltiples modelos y estrategias mediante una sola interfaz
Router permite acceder a modelos de OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI y Z.ai. En lugar de conectar las aplicaciones a un único modelo, los usuarios pueden elegir cómo enrutar las solicitudes según un conjunto de estrategias que ofrece el servicio.
Entre estas opciones se encuentra dar preferencia a los niveles de uso flexibles de los proveedores de modelos, o permitir que Router determine el modelo más adecuado para cada solicitud basándose en hasta tres criterios de rendimiento definidos por el usuario. También es posible dirigir únicamente las solicitudes difíciles a modelos más costosos, o probar distintos modelos sin cambiar la integración de software cada vez.
El servicio incluye un panel de control que muestra datos como el volumen de gasto en tokens, el costo, el tiempo de respuesta y los intentos de cambiar a modelos alternativos, además de otros detalles relacionados con el uso de las solicitudes.
¿Qué cambia en la práctica para las empresas?
Router combina la gestión del acceso a los modelos con la supervisión del consumo de tokens y los costos. Esto podría permitir a las empresas ajustar la relación entre la calidad de la respuesta y el costo de inferencia, en lugar de tratar con cada proveedor de modelos o cada aplicación por separado. El servicio también encaja con los productos actuales de Ramp relacionados con la supervisión del uso de tokens de inteligencia artificial y la gestión del gasto en ellos.
Para los equipos que prueban múltiples modelos, contar con una interfaz unificada puede ser una forma de reducir la complejidad operativa. Sin embargo, el beneficio real dependerá de la cantidad de modelos compatibles, la precisión de los mecanismos de enrutamiento y el nivel de control que la plataforma ofrezca en entornos de producción.
Disponibilidad, datos y costo
El servicio solo está disponible actualmente en Estados Unidos. Será gratuito hasta finales de 2026, aunque los usuarios seguirán asumiendo los costos de inferencia de los modelos de inteligencia artificial. Ramp también anunció un crédito de lanzamiento de 26 dólares, pero aún no ha definido el precio del servicio después de 2026.
Router sigue una política de retención de datos que permite desactivar la retención, aunque la configuración predeterminada establece que las entradas y salidas de los modelos, así como las llamadas a herramientas, se registren durante un año. La empresa afirma que eliminará la información que permita identificar a las personas antes de utilizar este contenido para mejorar el producto. Los detalles sobre la aplicación de la opción de desactivar la retención siguen siendo un aspecto importante para las organizaciones que manejan datos sensibles.
La apuesta de Ramp por el mercado de la inferencia
El lanzamiento de Router no se limita a añadir una nueva herramienta a la cartera de Ramp; también abre para la empresa una entrada al creciente mercado de los servicios de inferencia y podría ayudarla a construir relaciones a largo plazo con laboratorios de inteligencia artificial y proveedores de infraestructura.
Si Router se convierte en una plataforma atractiva para probar modelos, como ocurre con OpenRouter, Ramp podría utilizar estas relaciones para llegar a nuevos clientes y vincularlos posteriormente con sus productos de gestión de gastos. La empresa había recaudado 750 millones de dólares en junio, con una valoración de 44.000 millones de dólares, según el material fuente.