استخدام وكلاء الذكاء الاصطناعي في هجمات سيبرانية، وهو خطر يذكر المقال احتمال اتساع آثاره مع زيادة قدرات الوكلاء.
طرح Dario Amodei، الرئيس التنفيذي لشركة Anthropic، خطة من ثلاث مراحل لتقليل مخاطر تطور الذكاء الاصطناعي، تشمل إشراك جهات تقييم مستقلة وتنسيقاً أوسع بين الشركات والحكومات. ويستند المقترح إلى مخاوف من تسارع قدرة النماذج على تطوير أنظمة لاحقة ومن إساءة استخدام الوكلاء الذكيين في الهجمات السيبرانية أو البيولوجية.