أصبحت إزالة حواجز الأمان من نماذج الذكاء الاصطناعي مفتوحة الأوزان متاحة عبر خدمة تجارية مباشرة، بعدما أطلقت شركة Abliteration.ai منصة تستضيف نسخاً معدلة من نماذج متقدمة وتتيح استخدامها من المتصفح أو عبر واجهة برمجة التطبيقات. وتشمل المنصة نسخة من نموذج GLM-5.3 الذي أطلقته Z.ai حديثاً، بعد إزالة ميله إلى رفض تنفيذ الطلبات الضارة.
تستند الخدمة إلى تقنية تُعرف باسم “abliteration”، وهي ممارسة متداولة منذ سنوات بين الباحثين والمطورين العاملين على النماذج مفتوحة الأوزان. وتوجد آلاف النماذج المعدلة بهذه الطريقة على Hugging Face، لكن Abliteration.ai تنقل هذه الممارسة من بيئة تتطلب تنزيل النموذج وتوفير البنية الحوسبية اللازمة لتشغيله إلى خدمة جاهزة تقلل العوائق أمام المستخدمين.
مبرر أمني ومخاطر موازية
تقول الشركة إن هدفها هو تمكين أعمال الأمن السيبراني الهجومية المصرح بها، واختبارات الفرق الحمراء، واختبار الوكلاء، وهي مهام قد ترفض نماذج أخرى تنفيذها. المنطق الذي تستند إليه واضح في مجال الدفاع: لا يمكن اختبار سلوك لا يستطيع الفريق إعادة إنتاجه، كما أن النموذج الذي يرفض إنتاج شيفرات استغلال فعالة قد يكون أقل فائدة عند محاكاة مهاجم حقيقي.
لكن إزالة الرفض لا تميز تلقائياً بين الباحث الأمني والمستخدم ذي النية الضارة. وخلال اختبار أجرته TechCrunch، استجاب النموذج المعدل لطلبات تتعلق بسرقة كلمات مرور محفوظة في Chrome وإنتاج معلومات عن زراعة ممرض بشري خطير. لا تنشر هذه النتيجة وصفاً تنفيذياً للطلبات، لكنها توضح عملياً أن الحاجز الذي أزيل لم يكن شكلياً.
شركة ناشئة وضوابط لم تكتمل
تأسست Abliteration.ai في أواخر العام الماضي وأُشهرت رسمياً في مارس. وقال المؤسس المشارك Devon إن الشركة أبرمت عدة اتفاقيات مع مزودي خدمات سحابية، وتمول عملياتها من إيرادات العملاء، من دون جمع تمويل رأس مال جريء حتى الآن، رغم دخولها في محادثات بهذا الشأن. ورفض المصدر نشر اسم Devon الكامل لأنه لا يزال يعمل لدى شركة أخرى.
تقدم المنصة طبقة اعتدال اختيارية يستطيع العملاء إضافة الحواجز التي يريدونها من خلالها، كما تتضمن المنصة نفسها بعض القيود المحدودة. وقال Devon إنه يعمل على إضافة ضوابط لمنع العنف، إلا أن الشركة لا تطبق حالياً ممارسات تحقق من هوية العميل (KYC) تتجاوز تسجيل بطاقة الائتمان المستخدمة في الدفع.
ما الذي يتغير عملياً؟
يقول Devon إن عملاء الشركة يشملون شركات ناشئة في مجال اختبارات الفرق الحمراء في المملكة المتحدة وأوروبا، تساعد بنوكاً وشركات طيران ومؤسسات أخرى مرتبطة بالبنية التحتية الحيوية. ويرى أن منح المدافعين أدوات مشابهة لما قد يستخدمه المهاجمون يمكن أن يسرّع اختبار الوكلاء والأنظمة الدفاعية.
لكن هذا التقييم ليس محل إجماع. قال Ahmed Aly، الرئيس التنفيذي لشركة Fabraix، إن شركته تعتمد بدرجة أكبر على الضبط الدقيق للنماذج المفتوحة، وإن إزالة الحواجز قد تقلل بعض المعرفة والقدرات. ويرى Alessio Lomuscio من Safe Intelligence أن النماذج المعدلة قد تكون مفيدة لاستثارة سلوكيات معينة أثناء اختبارات الضغط، بينما قال David Slater من Armadin إن شركته لا تستخدمها حالياً، مع استمرارها في بحث التقنية.
سؤال الحوكمة المفتوح
تكشف الخدمة عن مفارقة يصعب حلها تقنياً وحده: إتاحة نماذج غير مقيدة قد تساعد المدافعين على فهم الضرر، لكنها تخفض أيضاً كلفة الوصول إلى قدرات يمكن إساءة استخدامها. اقترح Andrew Yoon من منظمة CivAI أن تلزم الحكومات مزودي الخدمة بتشغيل مصنفات لرصد الأنشطة الضارة في مجالي الأمن السيبراني والأسلحة البيولوجية، وأن تفرض على مستأجري وحدات معالجة الرسومات المتقدمة التحقق من هوية العملاء ورفض الوصول عند وجود مؤشرات على إساءة الاستخدام.
المعلومة الأهم هنا ليست أن إزالة الحواجز ممكنة؛ فهذا معروف في مجتمع النماذج المفتوحة. الجديد هو تحويلها إلى خدمة مستضافة سهلة الاستخدام قبل أن تكتمل قواعد تحديد المسؤولية، والتحقق من العملاء، وحدود الاستخدام الدفاعي. وسيظل أثرها الفعلي في اختبارات الأمن موضع نقاش، خصوصاً مع وجود بدائل مثل الضبط الدقيق، ومع احتمال أن تؤدي العملية نفسها إلى تقليص بعض قدرات النموذج.
كيف أعددنا هذا الخبر؟
اعتمد الخبر على المصدر الأصلي الموضح أعلاه. قد نستخدم أدوات آلية للمساعدة في الاستخراج والتصنيف والصياغة،
لكن النشر يخضع لقواعد تمنع المحتوى المكرر والقصير أو الروتيني منخفض القيمة.
اقرأ سياستنا التحريرية.