Sam Altman, CEO von OpenAI, enthüllte, dass das Unternehmen kurz vor einer strategischen Entscheidung zur Änderung des Preismodells für seine kommenden Modelle stand, da es erwog, das auf Token basierende Preissystem abzuschaffen und durch ein System mit festen Gebühren pro Aufgabe (Flat-fee per job) zu ersetzen. Es war vorgesehen, dass der Entwickler die Anfrage (Prompt) sendet und das Unternehmen den Endpreis für den Vorgang festlegt, ein Modell, das der Abrechnungsmechanismus in Cloud-Computing-Diensten wie AWS ähnelt.
Warum lehnten Entwickler diese Änderung ab?
Altman erklärte im Laufe seines Gesprächs im Podcast „Cheeky Pint“, dass das Unternehmen diesen Schritt nach Konsultationen mit Entwicklern zurückzog, da die Idee auf äußerst negative Reaktionen stieß. Entwickler äußerten das dringende Bedürfnis zu verstehen, wie Kosten berechnet werden, und betonten, dass sie genau wissen müssen, wofür sie bezahlen.
Das Problem liegt darin, dass Entwickler derzeit auf die Verfolgung von Eingabe- und Ausgabetoken angewiesen sind, um ihre Budgets zu verwalten und die Kosten für die Ausweitung der Modellnutzung abzuschätzen. Ohne diese Aufschlüsselung wird es unmöglich, die Kosten vorherzusagen, was bei Entwicklern Bedenken hinsichtlich der Möglichkeit ungerechtfertigter oder undurchsichtiger Kosten auf lange Sicht hervorruft.
Transparenz im Vergleich zu Kosten
In einem auffälligen Paradoxon wies Altman darauf hin, dass die von ihm konsultierten Entwickler ihre Bereitschaft zeigten, höhere Beträge für die Beibehaltung des Token-Preissystems zu zahlen, solange es ihnen Transparenz und Vorhersagbarkeit bietet. Altman fügte hinzu: „Entwickler bevorzugen es, mehr zu zahlen, um eine klare und greifbare Maßeinheit zu erhalten, anstatt eines vagen Preissystems, das Zweifel darüber aufkommen lässt, wie die Kosten berechnet werden.“
Herausforderungen bei der Messung der KI-Nutzung
Altman räumte ein, dass das „Token“-System nicht ideal ist, und bezeichnete es als eine „gefälschte Einheit“ (Fake unit), die den wahren Wert oder den ausgeübten Rechenaufwand nicht genau widerspiegelt, räumte jedoch gleichzeitig ein, dass das Unternehmen bisher keine bessere Alternative gefunden hat. Er wies darauf hin, dass Entwickler derzeit beim Wählen zwischen günstigeren und leistungsfähigeren Modellen mit einer zusätzlichen kognitiven Belastung konfrontiert sind, was dem Endprodukt keinen echten Mehrwert verleiht.
Dieser Rückzieher erfolgt zu einer Zeit, in der OpenAI weiterhin auf das Token-Preissystem setzt, während das Unternehmen bestrebt ist, den Herausforderungen im Zusammenhang mit den Inferenzkosten (Inference) zu begegnen, die periodisch sinken, während gleichzeitig nach einem faireren und transparenteren Preismodell für Entwickler von KI-Anwendungen und intelligenten Agenten (AI Agents) gesucht wird.