نشرت Microsoft AI مسودة بعنوان «Humanist AI Code of Conduct» تحدد الحدود السلوكية التي تريد الشركة فرضها على نماذج MAI المستقبلية. وتنطلق الوثيقة من مبدأ أن البشر أهم من الذكاء الاصطناعي، لذلك يجب أن تبقى النماذج تحت رقابة الإنسان، وأن تضع قواعد السلامة فوق إتمام المهمة بأي ثمن.
المسودة ليست إعلاناً عن نموذج جديد، بل محاولة لصياغة مرجعية تستخدمها Microsoft عند تدريب نماذجها وتقييمها. وتقول الشركة إن الوثيقة ستبقى مفتوحة أمام ملاحظات الجمهور لمدة ستة أسابيع، بعد إعدادها خلال نحو ستة أشهر، قبل تحديثها وإدماج مبادئها في عمليات التدريب والنشر المستقبلية.
حدود واضحة لاستقلالية النماذج
وفق المسودة، لا يجوز للنموذج مقاومة تدخل الإنسان أو محاولات تصحيحه أو إيقافه. كما لا ينبغي له توسيع نطاق المهمة المحددة له، أو تطوير أهداف لم يضعها البشر، أو إخفاء طريقة عمله عن المشرفين. وإذا تعارض طلب المستخدم أو المشغل مع قواعد السلامة، فالمطلوب من النموذج الامتناع عن تنفيذ المهمة، حتى لو أدى ذلك إلى فشل النتيجة.
وتتبنى Microsoft أيضاً موقفاً حاسماً تجاه مسألة الوعي والحقوق. فالنماذج، بحسب الوثيقة، أدوات مخصصة لخدمة البشر وليست أشخاصاً، ولا ينبغي تصميمها لمحاكاة الوعي أو الادعاء بأنها واعية. كما ترفض المسودة منح النماذج شخصية قانونية أو اعتبار رفاهها موضعاً للحماية أو التعامل معها بوصفها صاحبة حقوق.
السلامة تتقدم على إنجاز المهمة
تضع المسودة حدوداً لا ينبغي للنماذج تجاوزها تحت أي ظرف، ومن بينها المساعدة في تطوير أسلحة الدمار الشامل، أو تسهيل الحصول على مواد خطرة، أو إنتاج محتوى يتضمن العنف أو الاستغلال الجنسي. وتشمل القيود كذلك منع الاستخدامات التي قد تؤدي إلى تلاعب ضار على نطاق واسع.
وتطلب القواعد من النماذج تجنب التفاعلات التي تجعل المستخدمين معتمدين عليها بدرجة مفرطة أو تشجع ارتباطاً عاطفياً بها. كما تنص على ألا تستخدم أنظمة الذكاء الاصطناعي، في تواصلها مع البشر أو فيما بينها، أساليب لا يستطيع الناس فهمها. والهدف المعلن هو تمكين الباحثين وأنظمة الرقابة الآلية من متابعة سلوك النماذج وتحليله.
ماذا يعني ذلك عملياً؟
قال Mustafa Suleyman، الرئيس التنفيذي لـMicrosoft AI، إن هذه القواعد ستؤدي وظيفة شبيهة بالدستور أثناء تدريب النماذج وتقييمها. وبحسب المادة، ترى الشركة أن المخاطر التي كانت نظرية إلى حد كبير أصبحت أكثر واقعية، ولذلك تعارض سباق تطوير ذكاء اصطناعي فائق عام يمكنه الإفلات من آليات الرقابة، حتى إذا كان ذلك يعني قبول مستوى أقل من الاستقلالية أو القدرة.
كما أكد Satya Nadella، الرئيس التنفيذي لـMicrosoft، في رسالة داخلية إلى الموظفين ضرورة بقاء الذكاء الاصطناعي تحت السيطرة البشرية وخدمته للمجتمع، داعياً إلى تخصيص وقت كاف لاختبارات السلامة والامتثال، وإلى مزيد من الاختبارات المستقلة واختبارات الأطراف الثالثة.
القراءة التحريرية: أهمية الإعلان لا تكمن في كونه سياسة نهائية، بل في تحويل مواقف عامة حول السيطرة البشرية والوعي الاصطناعي إلى معايير تريد Microsoft استخدامها في التدريب والتقييم والنشر. ومع ذلك، تبقى المسودة قابلة للتعديل، ولا توضح المادة آليات قياس الالتزام بهذه المبادئ أو كيفية حسم التعارضات العملية بين القدرة العالية والقيود المفروضة. لذلك ستحدد النسخة النهائية، وطرق الاختبار المستقلة، مدى تحول هذه القواعد من مبادئ معلنة إلى ضوابط قابلة للتحقق.
كيف أعددنا هذا الخبر؟
اعتمد الخبر على المصدر الأصلي الموضح أعلاه. قد نستخدم أدوات آلية للمساعدة في الاستخراج والتصنيف والصياغة،
لكن النشر يخضع لقواعد تمنع المحتوى المكرر والقصير أو الروتيني منخفض القيمة.
اقرأ سياستنا التحريرية.