Das Unternehmen Cognition hat die Funktion der „hierarchischen Budgets“ (Hierarchical Budgets) für den KI-Programmierassistenten Devin (Devin) eingeführt. Ziel ist es, Großunternehmen die Verwaltung und Überwachung der Ausgaben für KI-Agenten über verschiedene Abteilungen, Projekte und Arbeitsteams hinweg zu ermöglichen. Dieser Schritt erfolgt vor dem Hintergrund des Übergangs von ersten Testphasen (Pilots) zu einem großflächigen Einsatz in Unternehmen, bei dem die alten, einfachen Steuerungselemente nicht mehr ausreichen, um den auf Recheneinheiten der Agenten basierenden Ressourcenverbrauch zu kontrollieren.
Funktionsweise und hierarchische Budgetverteilung
Die neue Budgetfunktion passt sich an die bestehende Organisationsstruktur von Unternehmen an: Sie beginnt mit einem allgemeinen Hauptbudget, das auf Geschäftseinheitsebene aufgeteilt und in der Folge auf Teams und Projekte bis zu drei Ebenen tief verteilt wird. Dieses System ermöglicht es zentralen IT-Teams, die Gesamtübersicht und Sicherheitsgrenzen beizubehalten, ohne jede einzelne Anfrage manuell genehmigen zu müssen. Das System ermöglicht zudem die Zuweisung von Budgets für spezifische, abteilungsübergreifende Projekte wie die Modernisierung alter Systeme, während gleichzeitig die Kontrollen zwischen dem Cloud-Betrieb und den Desktop-Geräten der Entwickler getrennt werden.
Was passiert, wenn das Budget aufgebraucht ist?
Die Plattform beinhaltet Vorab-Warnungen, die Entwicklern auf ihren Startseiten angezeigt werden, wenn sie sich dem zulässigen Limit nähern. Dabei besteht die Möglichkeit, direkt beim Budgetinhaber weitere Recheneinheiten anzufordern. Die Plattform ermöglicht es Administratoren, automatische Genehmigungen zu aktivieren, die auf einem „Effizienz-Score“ (Efficiency Score) basieren, welcher produktive Arbeitsstunden im Vergleich zum Verbrauch von Devin misst. Das Erreichen des Budgetmaximums ohne vorherige Genehmigung führt jedoch zu einem sofortigen Stopp der aktuellen Programmiersitzung. Das Unternehmen entwickelt derzeit eine Funktion, die einen automatischen Wechsel zu kostengünstigeren Modellen ermöglicht, um Unterbrechungen kritischer Aufgaben zu vermeiden.
Warum diese Nachricht wichtig ist
Die Einführung hierarchischer Budgets spiegelt das Aufkommen einer neuen finanziellen Disziplin wider, die der Cloud-Kostenverwaltung (FinOps) ähnelt und speziell auf KI-Agenten ausgerichtet ist. Da die Preisgestaltung auf ein tatsächliches Verbrauchsmodell umgestellt wurde, benötigen Unternehmen dringend eine Verknüpfung der Ausgaben mit tatsächlichen Ergebnissen wie abgeschlossenen Merge-Anfragen und der Messung der Entwicklungs-Roadmap-Geschwindigkeit, womit die finanzielle Verantwortung klar bei den Teams für strategische Finanzen und Finanzplanung liegt.