Использование агентов искусственного интеллекта в кибератаках — это угроза, последствия которой, согласно статье, могут стать более масштабными по мере расширения возможностей агентов.
Dario Amodei, генеральный директор Anthropic, предложил план из трёх этапов для снижения рисков развития искусственного интеллекта, предусматривающий привлечение независимых оценщиков и более широкую координацию между компаниями и правительствами. Предложение основано на опасениях по поводу ускорения способности моделей разрабатывать последующие системы, а также неправомерного использования интеллектуальных агентов в кибернетических или биологических атаках.