Suivez les dernières actualités, explications et histoires technologiques associées.
Un article de recherche d’Anthropic a montré que des systèmes automatisés ont réussi à améliorer les performances d’un modèle sur 10 tests de comportements incompatibles avec les objectifs d’alignement, sans baisse des performances globales. Ces premiers résultats indiquent qu’une partie de la recherche sur l’alignement pourrait être automatisée, la qualité des critères et des données de recherche demeurant toutefois une contrainte fondamentale.