Sigue la cobertura, explicaciones e historias tecnológicas relacionadas.
La startup francesa Kog cree que las unidades de procesamiento gráfico tradicionales todavía pueden ofrecer mayores velocidades para la inferencia de modelos de inteligencia artificial mediante profundas mejoras de software. Pero primero debe demostrar que su enfoque, que alcanzó 3.000 tokens por segundo con un modelo pequeño, funciona con modelos lingüísticos más grandes.