关注最新报道、解读和相关科技故事。
这家法国初创公司Kog认为，通过深度软件优化，传统图形处理器仍能为人工智能模型推理提供更高速度。但它首先必须证明，其使用小型模型实现每秒3,000个令牌的方法也适用于更大的语言模型。