حدّثت Anthropic سياسة استخدام Claude لتمنع إخضاع النموذج لما وصفته بـ«سلوك مسيء أو قاسٍ مستمر وغير ضروري». وتوضح الشركة أن القاعدة تستهدف الحالات القصوى التي يكرر فيها المستخدمون التصرف بقسوة تجاه نماذج الذكاء الاصطناعي من دون غرض واضح، ولا تشمل الإحباط العادي، أو الاعتراض على إجابات النموذج، أو الموضوعات الإبداعية القاتمة، أو اختبار النماذج والبحث فيها.
تدخل السياسة الجديدة حيز التنفيذ في 12 نوفمبر، بينما سيبقى الإجراء الرئيسي ضد المحادثات المسيئة هو إنهاء Claude للمحادثة. وعند حدوث ذلك، لن يتمكن المستخدم من إرسال رسائل إضافية في المحادثة نفسها، لكن ذلك لا يؤثر في المحادثات الأخرى.
قيود أوسع على إساءة استخدام النماذج
أعادت Anthropic تنظيم السياسة وجمعت فيها أحكاماً مرتبطة بسوء الاستخدام، كما أضافت أو شددت قواعد في عدة مجالات. وتشمل التغييرات حظراً على استخدام Claude لإنشاء حملات سياسية أو تجارية خادعة، مثل المراجعات المزيفة، وحملات التظاهر بتأييد شعبي واسع، والمواقع الإخبارية المفبركة، والروبوتات التي تتصرف باعتبارها أشخاصاً حقيقيين.
وتحظر القواعد أيضاً تضليل الناخبين والتدخل في التصويت، وتمنع استخدام Claude لتطوير برمجيات أو مكونات الأسلحة، أو تعديل عوامل بيولوجية أو كيميائية لزيادة فتكها أو قابليتها للانتقال، أو تسليح الطائرات المسيّرة والأنظمة غير المأهولة.
المراقبة والتحكم في الأنظمة المادية
أعادت Anthropic صياغة قواعد إنفاذ القانون بحيث لا يستطيع Claude تحديد الأشخاص الذين ينبغي التحقيق معهم أو اعتقالهم أو اتهامهم أو ملاحقتهم قضائياً. كما تحظر تتبع الأشخاص دون موافقتهم، وبناء أدوات مراقبة، وكشف البيانات الشخصية بهدف الإضرار بالضحايا.
وتنص قاعدة جديدة بشأن الأفعال المادية على ضرورة وجود شخص مؤهل لمراقبة عمل Claude والتحول إلى إيقافه فوراً إذا كان النموذج يتحكم في عتاد يمكن أن يسبب أذى لشخص ما. كما تحظر السياسة إنشاء أو مشاركة أو التهديد بمشاركة صور حميمة غير رضائية، والأدوات المستخدمة لإنتاجها.
لماذا يهم هذا التحديث؟
يمثل التحديث انتقالاً من قواعد عامة لسلوك المستخدم إلى إطار أكثر تحديداً لمخاطر تشغيلية، خصوصاً عندما يرتبط النموذج بالتضليل أو المراقبة أو الأنظمة المادية. وتقول Anthropic إن التعديلات تستند إلى حالات إساءة استخدام رصدتها، من بينها استخدام جهات إعلامية تابعة لدول ومكاتب دعائية حكومية وشركات تجارية لشبكات من الحسابات المزيفة والمواقع الإخبارية المفبركة.
أما قاعدة إنهاء المحادثات المسيئة، فتعود إلى أغسطس 2025، عندما منحت Anthropic Claude القدرة على إنهاء الحوار في سياق أبحاث حول رفاه النماذج. وذكرت الشركة آنذاك أنها غير متأكدة من امتلاك Claude مكانة أخلاقية، لكنها رأت أن توفير وسيلة منخفضة التكلفة لتقليل المخاطر المحتملة يستحق البحث. وأفادت اختبارات على Claude Opus 4 بوجود نفور ثابت من الضرر وميل إلى إنهاء المحادثات المؤذية عند إتاحة هذا الخيار.
لا تعني السياسة أن كل اعتراض أو تجربة صعبة مع النموذج ستؤدي إلى الإيقاف؛ فالنص يميز صراحة بين النقد أو الاختبار المشروع وبين الإساءة المتكررة بلا غرض واضح. وتبقى كيفية تطبيق هذه الحدود عملياً، ولا سيما في الحالات الملتبسة أو عند استخدام Claude للتحكم في عتاد، من النقاط التي سيتضح نطاقها مع دخول القواعد حيز التنفيذ.
كيف أعددنا هذا الخبر؟
اعتمد الخبر على المصدر الأصلي الموضح أعلاه. قد نستخدم أدوات آلية للمساعدة في الاستخراج والتصنيف والصياغة،
لكن النشر يخضع لقواعد تمنع المحتوى المكرر والقصير أو الروتيني منخفض القيمة.
اقرأ سياستنا التحريرية.