最新の報道、解説、関連するテクノロジーストーリーを確認できます。
フランスのスタートアップKogは、従来型のGPUでも、深いソフトウェア最適化によってAIモデルの推論速度をさらに高められると考えている。しかしまずは、小型モデルで毎秒3,000トークンを達成した同社のアプローチが、より大規模な言語モデルでも機能することを証明しなければならない。