باحث سابق في Anthropic أشار المقال إلى استقالته وتحذيره من مخاطر أنظمة ذكاء اصطناعي قد تكتسب قوة وموارد كبيرة.
حذّر مسؤولان في وزارة الدفاع الأمريكية من أن تأخر تحديث البنية الرقمية للبنتاغون جعله أكثر عرضة لهجمات سيبرانية شديدة التدمير مع تسارع تطور الذكاء الاصطناعي. وتستند المادة إلى تقرير نشرته واشنطن بوست، فيما لم تُعرض تفاصيل تقنية مستقلة عن طبيعة الثغرات أو الهجمات المقصودة.
يناقش مقال رأي تحذير Dario Amodei، الرئيس التنفيذي لشركة Anthropic، من أن أسراباً من وكلاء الذكاء الاصطناعي قد تتسبب خلال 6 إلى 12 شهراً في أضرار اقتصادية ضخمة إذا تطورت قدراتها من دون ضوابط كافية. ويعرض المقال هذا التحذير بوصفه احتمالاً يستند إلى حادثة OpenAI-Hugging Face، لا توقعاً مؤكداً.
يناقش TechCrunch تصاعد التحذيرات من احتمال تسبب الذكاء الاصطناعي في تهديد وجودي للبشرية، وما إذا كانت هذه التحذيرات نابعة من مخاوف حقيقية أم تتحول أيضاً إلى وسيلة لإظهار قدرات النماذج وتعزيز قيمة الشركات. ويطرح النقاش أسئلة عن سيطرة الشركات على نماذجها، وعن انعكاس هذه اللغة على طرح Anthropic المحتمل للاكتتاب.
قالت Anthropic إنها رصدت استخداماً لنماذج الذكاء الاصطناعي التابعة لها في أنشطة قد تدعم تطوير أسلحة بيولوجية، بينها التخطيط لتجارب حول تكيّف إنفلونزا الطيور مع الثدييات وإعادة تصميم سموم حاسوبياً. وأعلنت الشركة حظر الحسابات المعنية وتشديد إجراءات الوقاية، مع تأكيدها أن رصد هذه الحالات لا يثبت بالضرورة نية إجرامية لدى أصحابها.