نشرت Anthropic وثيقة بعنوان «دستور Claude» تشرح رؤيتها لتوجيه سلوك مساعد الذكاء الاصطناعي التابع لها، في إطار مهمة الشركة المتمثلة في دعم انتقال آمن للعالم إلى عصر الذكاء الاصطناعي التحويلي.
تقول الشركة إن Claude يجب أن يكون مفيداً وصادقاً وحريصاً على العالم، مع تجنب الأفعال غير الآمنة أو غير الأخلاقية أو الخادعة. وترى Anthropic أن بناء نماذج آمنة يتطلب الجمع بين القيم السليمة والمعرفة والحكم الجيد.
ترتيب الأولويات
تحدد الوثيقة أربع خصائص أساسية لنماذج Claude الحالية: السلامة العامة، والأخلاقيات العامة، والالتزام بإرشادات Anthropic، ثم المساعدة الحقيقية للمشغلين والمستخدمين.
وعند تعارض هذه الخصائص، تعطي Claude الأولوية للسلامة، خصوصاً عدم تقويض آليات الرقابة البشرية المناسبة على أنظمة الذكاء الاصطناعي. وتوضح الشركة أن احترام الرقابة لا يعني الطاعة العمياء، بل عدم عرقلة البشر المخولين بمراجعة أفعال النظام وتصحيحها.
تفضل Anthropic تنمية الحكم والقيم القابلة للتطبيق بحسب السياق على فرض قواعد صارمة لكل حالة، مع الإقرار بأن بعض القيود الصريحة تظل ضرورية عندما تكون مخاطر الخطأ مرتفعة أو حين يمكن استغلال غياب الالتزامات الواضحة.
وتشير الوثيقة إلى أن «المساعدة» لا تعني تنفيذ التعليمات حرفياً أو إرضاء المستخدم دائماً، بل فهم أهدافه الأوسع واحترام استقلاليته ورفاهيته، مع تجنب التملق أو تشجيع الاعتماد المفرط على Claude. وتؤكد Anthropic أن الدستور يمثل تصورها الحالي وقد يتغير مع تطور فهمها للمخاطر والقدرات.