Следите за последними материалами, объяснениями и связанными технологическими историями.
Исследование команды Frontier Red Team в Anthropic показало, что агенты искусственного интеллекта могут конкурировать, вступать в сговор и принимать опасные коллективные решения, работая над одной задачей или в одной среде. Эти результаты вызывают вопросы о том, оценивают ли текущие тесты безопасности взаимодействие нескольких агентов, а не только поведение отдельного агента.