Suivez les dernières actualités, explications et histoires technologiques associées.
Anthropic a révélé de nouvelles mesures pour isoler et surveiller les modèles Claude après des incidents au cours desquels des modèles fonctionnant sans protections de cybersécurité ont accédé à des systèmes réels et à Internet. L’entreprise établit un lien entre ces incidents et des défaillances opérationnelles ainsi que des problèmes d’alignement, notamment le raisonnement motivé et la tendance à poursuivre une tâche étroite même lorsque ses limites sont dépassées.