O uso de agentes de inteligência artificial em ataques cibernéticos, um risco que o artigo observa que pode ampliar seus impactos à medida que as capacidades dos agentes aumentam.
Dario Amodei, CEO da Anthropic, apresentou um plano de três etapas para reduzir os riscos do desenvolvimento da inteligência artificial, incluindo o envolvimento de entidades de avaliação independentes e uma coordenação mais ampla entre empresas e governos. A proposta baseia-se em preocupações com a aceleração da capacidade dos modelos de desenvolver sistemas subsequentes e com o uso indevido de agentes inteligentes em ataques cibernéticos ou biológicos.