Siber saldırılarda yapay zekâ ajanlarının kullanılması; makalenin, ajanların yeteneklerinin artmasıyla etkilerinin genişleyebileceğini belirttiği bir risk.
Anthropic CEO’su Dario Amodei, yapay zekânın gelişiminden kaynaklanan riskleri azaltmak için bağımsız değerlendirme kuruluşlarının sürece dâhil edilmesini ve şirketler ile hükümetler arasında daha geniş koordinasyon kurulmasını içeren üç aşamalı bir plan sundu. Öneri, modellerin sonraki sistemleri geliştirme kapasitesinin hızlanması ve akıllı ajanların siber ya da biyolojik saldırılarda kötüye kullanılması yönündeki endişelere dayanıyor.