OpenAIの最高経営責任者(CEO)であるサム・アルトマン氏は、同社が将来のモデルの価格設定モデルを変更する戦略的決定の寸前にあったことを明らかにしました。トークン(Tokens)に基づく課金システムの廃止を検討し、タスクごとの固定料金(Flat-fee per job)システムに置き換える案が出ていたのです。この仕組みでは、開発者がプロンプト(Prompt)を送信し、企業側が処理の最終価格を決定することになっており、AWSなどのクラウドコンピューティングサービスにおける課金メカニズムに似たモデルでした。
なぜ開発者はこの変更を拒否したのか?
アルトマン氏はポッドキャスト番組「Cheeky Pint」での対談の中で、開発者らとの協議を行った結果、このアイデアが極めて否定的な反応に直面したため、同社がこの動きを撤回したと説明しました。開発者たちは、コストの算出方法を把握する必要性を強く訴え、支払いの対価として何に料金が発生しているのかを正確に知る必要があると強調しました。
問題は、開発者が現在、予算管理やモデル利用拡大のコスト見積もりのために、入力トークンと出力トークンの追跡に依存している点にあります。そのような詳細情報がなければコスト予測が不可能になるため、長期的に正当性の裏付けのない、あるいは不透明なコストに直面するのではないかという懸念が開発者たちの間に生じました。
透明性とコストの比較
注目すべき逆転現象として、アルトマン氏は、相談に応じた開発者らが、透明性と予測可能性が維持されるのであれば、トークン課金制を維持するために高額の支払いをいとわない姿勢を示したと指摘しました。アルトマン氏はさらに、「開発者たちは、コストの算出方法について疑念を生じさせる曖昧な価格設定システムよりも、明確で具体的な単位に対してより多くの金額を支払う方を好むのです」と付け加えました。
AI活用の測定における課題
アルトマン氏は、「トークン」システムが完璧ではないことを認め、それを真の価値や費やされた計算努力を正確に表現していない「偽りの単位(Fake unit)」と表現しました。しかし同時に、同社がこれまでにそれより優れた代替案を見つけられていないことも認めました。また、開発者たちは現在、より安価なモデルとより高性能なモデルのどちらかを選択する際に、追加の認知的な負担に直面していると指摘しましたが、それは最終製品に本当の付加価値をもたらすものではないと述べました。
この撤回劇は、OpenAIがトークン課金制への依存を継続する中で起きました。同社は、定期的に低下している推論(Inference)コストに関連する課題に対処しようと努めると同時に、AIアプリケーションやAIエージェント(AI Agents)の開発者にとってより公平で透明性の高い価格設定モデルの模索を続けています。
ニュースの出典
The New Stack - Software Development
原文を開く ↗