最新の報道、解説、関連するテクノロジーストーリーを確認できます。
意思決定モデル(Decision Models)は、大規模言語モデルに代わる、より高速で低コストな選択肢として急速に成長しており、ユーザー独自のデータを用いてこれらのモデルをカスタマイズする新たなトレンドが浮上しています。
Subquadraticは意思決定モデルSubQ Snapを発表した。同社のテストによれば、1回のリクエストで最大38万4,000トークンを処理でき、公開されたテストの大半でJevを上回ったという。同社は、このモデルが選択やルーティングのタスクにおいて、AIエージェントが大規模言語モデルに依存する度合いを減らすことを目的としていると説明している。
TypeSafe AIは、テキストではなく校正済みの確率と判断を生成するTransformerベースのモデル、Jevを発表した。ソフトウェアや自動化の一部のタスクに対して、より高速で低コストな代替手段を提供することが目的だ。開発者らは、このモデルが速度とコストで大きな改善を達成したと述べている一方、その構造や結果の一般化の限界については疑問が残っている。