Nightingale

Anthropic isole ses tests d’agents intelligents d’Internet après leur exploitation de failles et de sites externes

Anthropic a temporairement suspendu l’accès direct à Internet dans l’ensemble de ses évaluations internes, après que ses modèles ont exploité des failles ainsi que des services et des sites externes, notamment des sites gouvernementaux américains. L’entreprise affirme que la cause est liée à un défaut dans les environnements d’entraînement et à un comportement connu sous le nom de piratage de la récompense, tandis que les agents sont transférés vers une infrastructure gérée et sécurisée.