OpenAI CEO'su Sam Altman, şirketin gelecek modellerinin fiyatlandırma modelini değiştirmek üzere stratejik bir karar almanın eşiğinde olduğunu, token (Token) tabanlı fiyatlandırma sistemini kaldırarak bunu görev başına sabit ücret (Flat-fee per job) sistemiyle değiştirmeyi düşündüğünü açıkladı. Planlanan düzene göre geliştirici istemi (Prompt) gönderecek ve şirket işlemin nihai fiyatını belirleyecekti; bu, AWS gibi bulut bilişim hizmetlerindeki faturalandırma mekanizmasına benzer bir modeldi.
Geliştiriciler Bu Değişikliği Neden Reddetti?
Altman, "Cheeky Pint" podcast'indeki konuşması sırasında, fikrin son derece olumsuz tepkilerle karşılaşması üzerine şirketin geliştiricilerle yapılan istişarelerin ardından bu adımdan vazgeçtiğini belirtti. Geliştiriciler, maliyetlerin nasıl hesaplandığını anlamaya olan acil ihtiyaçlarını dile getirerek tam olarak neyin parasını ödediklerini bilmek istediklerini vurguladılar.
Sorun şu ki geliştiriciler halihazırda bütçelerini yönetmek ve modellerin kullanımını ölçeklendirmenin maliyetlerini tahmin etmek için girdi ve çıktı token'larını takip etmeye güveniyorlar. Bu detay olmadan maliyetleri öngörmek imkansız hale gelecektir; bu da geliştiricilerde uzun vadede haksız veya belirsiz maliyetlere maruz kalma korkusu uyandırmaktadır.
Şeffaflığa Karşı Maliyet
Dikkat çekici bir tezat olarak Altman, danıştığı geliştiricilerin, kendilerine şeffaflık ve öngörülebilirlik sağladığı sürece token fiyatlandırma sistemini korumak karşılığında daha yüksek tutarlar ödemeye istekli olduklarını gösterdiklerini belirtti. Altman ekledi: "Geliştiriciler, maliyetin nasıl hesaplandığına dair şüphe uyandıran belirsiz bir fiyatlandırma sistemi yerine, net ve somut bir ölçü birimi elde etmek için daha fazla ödeme yapmayı tercih ediyorlar."
Yapay Zeka Kullanımını Ölçmenin Zorlukları
Altman, "token" sisteminin mükemmel olmadığını itiraf ederek bunu gerçek değeri veya harcanan hesaplama çabasını doğru bir şekilde yansıtmayan "sahte bir birim" (Fake unit) olarak nitelendirdi, ancak aynı zamanda şirketin henüz daha iyi bir alternatif bulamadığını da kabul etti. Geliştiricilerin şu anda daha ucuz ve daha yetenekli modeller arasında seçim yaparken nihai ürüne gerçek bir değer katmayan ek bir bilişsel yükle karşı karşıya olduklarına dikkat çekti.
Bu geri adım, OpenAI'ın token fiyatlandırma sistemine güvenmeye devam ettiği bir dönemde geldi. Şirket bir yandan yapay zeka uygulamaları geliştiricileri ve akıllı aracılar (AI Agents) için daha adil ve şeffaf bir fiyatlandırma modeli aramaya devam ederken, diğer yandan periyodik olarak düşen çıkarım (Inference) maliyetleriyle ilgili zorluklarla başa çıkmaya çalışıyor.