La société Nous Research, spécialisée dans le développement de modèles d'intelligence artificielle open source, a dévoilé son nouveau modèle Arete-27B. Ce modèle repose sur le modèle Qwen3.8-27B développé par la société chinoise Alibaba, mais avec des modifications substantielles visant à réorienter les réponses du modèle pour refléter ce que l'entreprise décrit comme les « valeurs occidentales ».
Mécanisme de modification et d'entraînement
Nous Research n'a pas développé de modèle de base à partir de zéro, mais s'est appuyée sur la technique du réglage fin (fine-tuning) du modèle existant. Le processus a consisté à entraîner le modèle sur environ 52,8 millions de jetons (tokens) en 1 202 étapes d'entraînement, sans avoir besoin d'utiliser des techniques complexes telles que l'apprentissage par renforcement ou l'optimisation des préférences, et sans altérer l'architecture structurelle du modèle d'origine.
Qu'est-ce qui change en pratique ?
L'entreprise a mené une évaluation portant sur 803 questions réparties en sept catégories, notamment la liberté d'expression, la démocratie et les politiques gouvernementales. Les résultats ont montré une baisse notable de la proportion de réponses adoptant le discours officiel du gouvernement chinois, passant de 22 % dans le modèle d'origine à moins de 1 % dans le modèle Arete-27B. De plus, l'indice de « précision de l'information » (Fact Score) est passé de 2,32 à 2,98 sur 5.
Pourquoi cette nouvelle est-elle importante ?
L'importance de cette évolution réside dans la démonstration que les modèles à poids ouverts peuvent voir leurs orientations comportementales et politiques remodelées avec un effort d'entraînement relativement limité. Cependant, l'entreprise souligne des limites importantes :
- Vérification indépendante : Les résultats ont été évalués à l'aide du modèle Grok 4.7 et n'ont pas encore fait l'objet d'un audit indépendant par un tiers.
- Biais politique : La diminution de l'alignement avec le discours officiel ne signifie pas nécessairement l'atteinte d'une neutralité politique complète ou d'une précision absolue de l'information.
- Performance générale : Les tests ont confirmé que les modifications n'ont pas affecté négativement les capacités générales du modèle, Arete-27B ayant conservé des performances similaires à celles du modèle d'origine lors des tests de performance standard.
Nous Research a mis à disposition les poids du modèle, les données d'entraînement et la méthodologie d'évaluation via la plateforme Hugging Face, ouvrant la voie aux chercheurs pour mener des tests indépendants et vérifier l'efficacité de cette méthodologie dans la modification des orientations idéologiques des grands modèles de langage.