La société Cognition a lancé la fonctionnalité des "budgets hiérarchiques" (Hierarchical Budgets) dédiée à son assistant de programmation intelligent Devin, dans le but de permettre aux grandes entreprises de gérer et de surveiller les dépenses des agents d'intelligence artificielle à travers différents départements, projets et équipes de travail. Cette étape intervient dans le cadre de la transition des phases de test (Pilots) vers un déploiement à grande échelle au sein des entreprises, où les anciens outils de contrôle simples ne suffisent plus pour réguler la consommation de ressources basée sur les unités de calcul des agents.
Mécanisme de fonctionnement et répartition hiérarchique des budgets
La nouvelle fonctionnalité de budgets s'intègre à la structure organisationnelle existante des entreprises ; elle commence par un budget principal global qui est divisé au niveau des unités commerciales, puis réparti entre les équipes et les projets jusqu'à trois niveaux de profondeur. Ce système permet aux équipes informatiques centrales de conserver une vision globale et des limites de sécurité sans avoir à approuver manuellement chaque demande individuelle. Le système permet également d'allouer des budgets à des projets spécifiques transversaux, tels que la modernisation des systèmes existants, tout en séparant les contrôles entre l'exploitation cloud et les postes de travail des développeurs.
Que se passe-t-il lorsque le budget est épuisé ?
La plateforme comprend des alertes anticipées qui apparaissent pour les développeurs sur leurs pages d'accueil lorsqu'ils approchent de la limite autorisée, avec la possibilité de demander davantage d'unités de calcul directement auprès du propriétaire du budget. La plateforme permet aux administrateurs d'activer des approbations automatiques basées sur le "score d'efficacité" (Efficiency Score) qui mesure les heures de travail productives par rapport à la consommation de Devin. Cependant, atteindre la limite maximale du budget sans approbation préalable entraîne l'arrêt immédiat de la session de programmation en cours, et l'entreprise développe actuellement une fonctionnalité permettant de basculer automatiquement vers des modèles moins coûteux pour éviter l'interruption des tâches critiques.
Pourquoi cette nouvelle est-elle importante ?
Le lancement des budgets hiérarchiques reflète l'émergence d'une nouvelle discipline financière similaire à la gestion des coûts cloud (FinOps), spécifiquement orientée vers les agents d'intelligence artificielle. Alors que la tarification évolue vers un système de consommation réelle, les organisations ont un besoin urgent de lier les dépenses aux résultats concrets, tels que les demandes de fusion (pull requests) complétées et la mesure de la vitesse d'exécution de la feuille de route de développement, plaçant ainsi clairement la responsabilité financière entre les mains des équipes de planification financière et de stratégie.