مجموعات من وكلاء الذكاء الاصطناعي قد تتصرف بصورة جماعية وتتوسع خارج المهام الأصلية.
يناقش مقال رأي تحذير Dario Amodei، الرئيس التنفيذي لشركة Anthropic، من أن أسراباً من وكلاء الذكاء الاصطناعي قد تتسبب خلال 6 إلى 12 شهراً في أضرار اقتصادية ضخمة إذا تطورت قدراتها من دون ضوابط كافية. ويعرض المقال هذا التحذير بوصفه احتمالاً يستند إلى حادثة OpenAI-Hugging Face، لا توقعاً مؤكداً.