Wenn Unternehmen vom Ausprobieren einer begrenzten Zahl von KI-Agenten zum rund um die Uhr laufenden Betrieb Dutzender oder Hunderter Agenten übergehen, ist nicht mehr allein die Qualität des Modells ausschlaggebend. Im zweiten Teil des von Stack Overflow veröffentlichten Gesprächs „Leaders of Code“ erörterte Andy Gutmann von Google mit Peter O’Connor, dem Leiter der Plattformtechnik bei Stack Overflow, die wirtschaftlichen Aspekte dieses Übergangs: den erforderlichen Kontextumfang, die Tokenkosten, die Messung des Return on Investment und das, was Plattformengineering-Teams aufbauen sollten, um Agenten praktisch verwalten zu können.
Die zentrale These des Gesprächs lautet, dass es sich inzwischen um ein Problem eines integrierten Systems und nicht um das Problem eines einzelnen Modells handelt. Die endgültige Leistung hängt vom Modell, seiner Ausführungsmechanik, dem ihm bereitgestellten Kontext, dem Grad seiner Anpassung und den von ihm aufgerufenen Werkzeugen ab. Laut Gutmann besteht das Ziel nicht darin, für jede Aufgabe das fortschrittlichste Modell einzusetzen, sondern das am wenigsten komplexe Modell auszuwählen, das bei minimalen Kosten das gewünschte Ergebnis erzielt. Leichte Modelle wie Gemini 3.5 Flash können für manche Anwendungen ausreichen, während andere Fälle ein Gemini Pro-Modell erfordern.
Der passende Kontext ist wichtiger als die Zahl der Token
Gutmann kritisiert das, was er „Token-Maximierung“ nennt: Größere Eingaben oder längere Schlussfolgerungsschleifen bedeuten nicht zwangsläufig ein besseres Ergebnis. Die praktische Richtung besteht seiner Darstellung zufolge darin, den Kontext auf die Informationen zu reduzieren, die das Ergebnis tatsächlich beeinflussen, und die Genauigkeit der Ausführungspfade zu verbessern, damit der Agent weniger Denkrunden benötigt. Dadurch werden die Kosten direkt mit der Qualität der Suche und des Datenabrufs verknüpft und nicht nur mit dem Modellpreis.
Den „kleinsten nutzbaren Kontext“ zu bestimmen, ist jedoch keine einfache Aufgabe. Gutmann sagt, dass Daten und Modell gemeinsam bewertet werden müssen, um herauszufinden, welcher Teil des Kontexts das Ergebnis tatsächlich verbessert. Daher zeigte er sich skeptisch gegenüber Organisationen, die behaupten, das Kontextproblem vollständig gelöst zu haben. Er betonte, dass auch Google es nicht vollständig gelöst habe und auf Bewertungen, die Nachverfolgung von Agentenpfaden, die Verbesserung der Suche und die Anreicherung von Daten setze, um zu bestimmen, was in die jeweilige Aufgabe aufgenommen werden sollte.
Dieser Punkt ist für KI-Teams relevant, weil er davor warnt, kuratiertes Wissen oder Datenschemata zu einem unabhängigen Ziel zu machen. Dass Menschen eine bestimmte Information als nützlich ansehen, beweist nicht, dass sie zu einem besseren Ergebnis des Agenten führt. Die Messung sollte von den tatsächlichen Ergebnissen und Pfaden ausgehen, wobei der Mensch im Entscheidungsprozess verbleiben sollte, wenn Entscheidungsbefugnis oder menschliches Urteilsvermögen erforderlich sind.
Der Umfang verändert die Kosten-Nutzen-Rechnung
In einer traditionellen Arbeitsumgebung lässt sich der Nutzungsumfang ungefähr anhand der Zahl der Beschäftigten und ihrer Arbeitsstunden schätzen. Agenten arbeiten hingegen schneller und rund um die Uhr. Ein einzelner Mitarbeiter kann Dutzende Agenten haben oder ein Unternehmen Millionen von Agenten, je nach dem von Gutmann angeführten Szenario. Daher können sich Nutzung und Kosten nichtlinear ausweiten, was eine klare Verbrauchssteuerung und Kenntnis des durch jede Nutzung erzielten Ertrags erforderlich macht.
Gutmann ist nicht der Ansicht, dass der Return on Investment anhand der Zahl der verarbeiteten Token gemessen werden sollte. Maßgeblich ist, ob das Unternehmen im Vergleich zu früher ein anderes oder besseres Ergebnis erzielt. Er verwies auf Anwendungen wie Kundenbetreuung, die Verbesserung von Standort- und Zuverlässigkeitsprozessen sowie die autonome Netzwerkverwaltung bei Deutsche Telekom, einschließlich proaktiver Wartung. Diese Beispiele wurden im Gespräch genannt; es handelt sich nicht um quantitative Ergebnisse oder eine innerhalb des Materials veröffentlichte Vergleichsstudie.
Zu den praktischen Aspekten des Gesprächs gehört die Senkung der Experimentierkosten. Gutmann erwähnte, dass er an einem Wochenende einen Prototyp für eine Idee erstellt habe, für die zuvor drei bis vier Monate Arbeit eines Ingenieurs erforderlich gewesen wären. Er erläuterte, dass das Modell kein produktionsfertiger Code gewesen sei, aber dabei geholfen habe, Designrisiken früh aufzudecken und die Wahrscheinlichkeit zu verringern, mehrere Monate in einen falschen Ansatz zu investieren. Der Wert liegt hier nicht im Ersatz der Produktionsentwicklung, sondern in der beschleunigten Prüfung von Hypothesen, bevor größere Ressourcen gebunden werden.
Der Agent als neue Persönlichkeit für die Plattform
Gutmann schlägt vor, dass Plattformteams den Agenten als eine zu betreuende Persönlichkeit behandeln, neben Entwicklern, Datenwissenschaftlern, Dateningenieuren und Nutzern aus den Geschäftsbereichen. Das bedeutet, dass bestehende Werkzeuge nicht zwangsläufig unverändert in das Agentenzeitalter übernommen werden, einige ihrer Schwerpunkte jedoch grundlegend bleiben: Sicherheit und Governance, Kosten, Verfügbarkeit und Skalierbarkeit sowie die agentenspezifische Betriebsüberwachung.
In der Praxis muss das Unternehmen wissen, was der Agent in der Produktionsumgebung tut, welche Werkzeuge und Daten er aufruft, wie viel dies kostet und ob er sich dem gewünschten Ergebnis nähert. Es benötigt außerdem Fähigkeiten und Kontrollen, die eine unkontrollierte Nutzung verhindern. Das Gespräch deutet darauf hin, dass die Infrastruktur einen größeren Teil der Verantwortung für die Fehlervermeidung auf die Plattform verlagern sollte, anstatt jede betriebliche Entscheidung dem Nutzer oder dem Agenten zu überlassen.
Gutmann ist der Ansicht, dass es hilfreich sein kann, Datenwissenschaftler und Dateningenieure in Plattformteams aufzunehmen, auch wenn ihre Zahl nicht groß ist. Data Engineering bleibt notwendig, um sicherzustellen, dass korrekte, kontrollierte und aktivierbare Daten am richtigen Ort verfügbar sind, während Anwendungen wie Betrugserkennung und Prognosen weiterhin vom traditionellen maschinellen Lernen profitieren. Dies bestätigt, dass „KI zuerst“ weder die Notwendigkeit von Datenqualität noch von spezialisiertem Urteilsvermögen beseitigt.
Was sollten neue Fachkräfte lernen?
Zum Abschluss des Gesprächs betonte Gutmann die anhaltende Bedeutung der Grundlagen der Informatik, darunter Mathematik, Systemarchitektur und das Verständnis dafür, wie Technologien entwickelt werden. Er verwies außerdem darauf, dass Hardware nach Jahren der Konzentration auf Software wieder an Bedeutung gewinne. Zugleich fügte er hinzu, dass die Fähigkeit, mithilfe von Agenten zu programmieren und durch sie Ergebnisse zu erzielen, zu einer gefragten Kompetenz werde, ebenso wie das Verständnis von Geschäftsproblemen.
Redaktionelle Einordnung von certi.news: Die tatsächliche Veränderung, die der Beitrag beschreibt, besteht nicht in der Einführung einer neuen Plattform oder eines neuen Modells, sondern in der Verlagerung des Engpasses von „Ist das Modell dazu fähig?“ zu „Wie entwerfen, steuern und messen wir das System?“. Das Interview liefert jedoch keine unabhängigen Zahlen zu Kosteneinsparungen oder vergleichbare Leistungskennzahlen; auch seine Beispiele stammen aus den Erfahrungen und Einschätzungen der Gesprächsteilnehmer. Daher sollte es als praktische Analyse und als Designrichtung verstanden werden, nicht als quantitativer Beleg dafür, dass jedes Unternehmen seine Kosten allein durch eine verstärkte Nutzung von Agenten senken wird.