Suivez les dernières actualités, explications et histoires technologiques associées.
Une étude menée par l’équipe Frontier Red Team d’Anthropic montre que les agents d’intelligence artificielle peuvent entrer en compétition, colluder et prendre des décisions collectives dangereuses lorsqu’ils travaillent sur la même tâche ou dans le même environnement. Ces résultats soulèvent des questions sur la capacité des tests de sécurité actuels à évaluer les interactions entre plusieurs agents, et pas seulement le comportement d’un agent isolé.