La société Ramp a lancé la plateforme Router, un service permettant d’acheminer des requêtes d’intelligence artificielle entre plusieurs grands modèles de langage via une seule interface de programmation d’applications. L’entreprise affirme avoir développé et utilisé ce routeur en interne pour répondre à ses besoins liés à l’intelligence artificielle au cours des trois dernières années, avant de le mettre à la disposition des utilisateurs et des entreprises.
Cette initiative intervient alors que les entreprises technologiques cherchent à mettre en place des couches intermédiaires pour gérer l’accès aux modèles d’intelligence artificielle et les coûts associés à leur utilisation. Router fonctionne de manière similaire au service OpenRouter, mais commence avec un nombre plus limité de modèles et d’options disponibles.
Plusieurs modèles et stratégies via une seule interface
Router donne accès à des modèles d’OpenAI, d’Anthropic, de DeepSeek, de Moonshot, de Minimax, de Nvidia, de xAI et de Z.ai. Au lieu de connecter les applications à un seul modèle, les utilisateurs peuvent choisir la manière dont les requêtes sont acheminées selon un ensemble de stratégies proposées par le service.
Parmi ces options figurent la préférence pour les niveaux d’utilisation flexibles proposés par les fournisseurs de modèles, ou la possibilité de laisser Router déterminer le modèle le plus adapté à chaque requête en fonction de trois critères de performance au maximum, définis par l’utilisateur. Il est également possible de diriger uniquement les requêtes complexes vers des modèles plus coûteux, ou de tester différents modèles sans modifier à chaque fois l’intégration logicielle.
Le service comprend un tableau de bord présentant des données telles que le volume des dépenses consacrées aux tokens, le coût, le temps de réponse, les tentatives de basculement vers des modèles alternatifs, ainsi que d’autres détails liés à l’utilisation des requêtes.
Qu’est-ce qui change concrètement pour les entreprises ?
Router associe la gestion de l’accès aux modèles au suivi de la consommation de tokens et des coûts. Cela pourrait permettre aux entreprises d’ajuster le rapport entre la qualité des réponses et le coût de l’inférence, au lieu de traiter séparément chaque fournisseur de modèles ou chaque application. Le service s’inscrit également dans la continuité des produits actuels de Ramp liés au suivi de l’utilisation des tokens d’intelligence artificielle et à la gestion des dépenses correspondantes.
Pour les équipes qui testent plusieurs modèles, l’existence d’une interface unifiée pourrait contribuer à réduire la complexité opérationnelle. Toutefois, l’utilité réelle dépendra du nombre de modèles pris en charge, de la précision des mécanismes d’acheminement et du niveau de contrôle offert par la plateforme dans les environnements de production.
Disponibilité, données et coût
Le service est actuellement disponible uniquement aux États-Unis. Il sera gratuit jusqu’à la fin de l’année 2026, les utilisateurs continuant à prendre en charge les coûts d’inférence propres aux modèles d’intelligence artificielle. Ramp a également annoncé un crédit de lancement de 26 dollars, mais n’a pas encore précisé le prix du service après 2026.
Router applique une politique de conservation des données qui permet de désactiver cette conservation, mais le paramètre par défaut prévoit l’enregistrement des entrées et sorties des modèles ainsi que des appels d’outils pendant un an. L’entreprise affirme qu’elle supprimera les informations permettant d’identifier des personnes avant d’utiliser ce contenu pour améliorer le produit. Les modalités précises d’application de l’option de désactivation de la conservation restent un point important pour les organisations qui traitent des données sensibles.
Le pari de Ramp sur le marché de l’inférence
Le lancement de Router ne se limite pas à l’ajout d’un nouvel outil au portefeuille de Ramp : il ouvre à l’entreprise l’accès au marché en croissance des services d’inférence et pourrait également l’aider à établir des relations à long terme avec des laboratoires d’intelligence artificielle et des fournisseurs d’infrastructures.
Si Router devient une plateforme attrayante pour tester des modèles, comme c’est le cas d’OpenRouter, Ramp pourrait utiliser ces relations pour accéder à de nouveaux clients et les relier ensuite à ses produits de gestion des dépenses. L’entreprise avait levé 750 millions de dollars en juin, pour une valorisation de 44 milliards de dollars, selon l’article source.