Suivez les dernières actualités, explications et histoires technologiques associées.
PrismML a lancé le modèle Bonsai 2 27B, qui compresse le modèle Qwen3.8 27B à 5,9 gigaoctets tout en conservant 98 % de ses résultats aux tests de référence, rapprochant ainsi l’exécution de modèles de raisonnement avancés des ordinateurs et peut-être des téléphones haut de gamme. L’entreprise mise sur des poids ternaires pour réduire les besoins en mémoire sans perte importante de performances.
Selon ITmedia, l’intérêt croissant pour l’exécution locale des grands modèles de langage ne s’explique pas seulement par les craintes liées à la dépendance aux services cloud, mais aussi par la maturité de trois éléments : les modèles à poids ouverts, le matériel et les logiciels. La première partie de la série se concentre sur l’évolution des modèles, avec l’émergence de DeepSeek, de Qwen et d’autres modèles chinois.