TypeSafe AIは、Transformerアーキテクチャを基盤とする人工知能モデルJevを発表した。このモデルは大規模言語モデルのカテゴリーには属さず、ユーザー向けのテキストも生成しない。その代わり、開発者が必要な出力の種類をあらかじめ定義したうえで、同社が「校正済みの判断」と呼ぶものについての確率を返す。
同社を率いるのは、OpenAIの元研究者で、ChatGPTの構築に参加し、人間のフィードバックからの強化学習（RLHF）技術の開発に貢献したDiogo Almeidaだ。Almeidaは、AIモデルは人間の言語への対応改善に大きく注力してきた一方、ソフトウェアの自動化には、より統制され、コンピューターが直接利用しやすい出力が必要だと述べている。
より高速で低コスト
TypeSafe AIによれば、言語生成を避けることでJevは高速かつ安価になり、ユーザーが可能な結果をあらかじめ定義するため、ハルシネーションの可能性も低下する。同社は出力トークンに料金を課しておらず、入力トークンは100万単位ではなく10億単位で計測されるという。これは原資料による。
このモデルは開発者から急速に関心を集め、需要の高まりによってAPIが一時的にユーザーへの提供を停止するほどだった。Vercelがセキュリティレビューを目的としたコマンド分類で実施したテストでは、OpenAIのモデルをJevに置き換えた結果、ソフトウェアエンジニアのPranit Sharmaによれば、精度が高まったうえ、速度は5倍から18倍になった。
商用メールの分類に関する別のテストでは、Bryo AIの最高技術責任者であるNikhil Mudholkarが、Geminiのほうがわずかに正確だったものの、コストは10倍から20倍高かったと確認した。Mudholkarは、Jevが返す信頼度スコアは自動化にとってより重要だと考えた。これは、ある処理を実行すべきか無視すべきかを判断するために利用できる確率を示すためだ。
実際には何が変わるのか？
これらの利用例は、Jevが必ずしもあらゆるタスクで言語モデルを置き換えることを目指しているわけではないことを示している。Jevは、分類、適切なモデルへのリクエストの振り分け、AIエージェントの影響の監視、あるいは制約を破ろうとする試みの検出などを担う可能性がある。こうしたシナリオでは、高速かつ低コストであることにより、リアルタイム監視がより実用的になる可能性がある。
しかし、確率に依存しても、人間による判断や運用ルールが不要になるわけではない。Earendilの最高技術責任者であるArmin Ronacherは、50%や95%といったスコアをどう扱うか、つまり出力を自動処理に変換する前に明確な閾値を設定する必要があると指摘した。これにより、不確実性への対応に関する責任の一部が、モデルからアプリケーション設計へ移る。
非公開の構造と予想される競争
TypeSafe AIはJevの構造の詳細を明らかにしていない。一方、外部の観察者は、同モデルがオープンウェイトの言語モデル上に構築されている可能性を疑っているが、同社は原資料でこれを確認していない。TypeSafe AIはこのモデルを、直感と適切なタスクの選択に重点を置く「System Oneモデル」と表現しており、「校正済み判断からの強化学習」と同社が呼ぶ技術を用い、合成データだけで訓練したとしている。
certi.newsの分析によれば、Jevの重要性は単に新しいモデルであることだけでなく、汎用的な会話インターフェースではなく、ソフトウェア内部の専門的な意思決定レイヤーとしてAIを提示している点にある。上記のテスト結果が正しければ、このアプローチは出力が明確に定められた反復的なタスクに適している可能性がある。しかし、公表された比較は限られており、それだけで異なる分野やワークロード全体における性能を判断するには不十分だ。また、構造やデータ生成方法が不明確なため、検証可能性と拡張性について未解決の疑問が残る。
TypeSafe AIは、異なるモードで同モデルの別バージョンを構築する計画であり、Ronacherは、この種のモデルの実用的な利点が明らかになれば競合企業が登場すると予想している。