أعلنت NVIDIA ومجموعة واسعة من شركات التقنية والمؤسسات المفتوحة المصدر تأسيس Open Secure AI Alliance، بهدف تطوير ومشاركة تقنيات وأدوات مفتوحة تساعد المدافعين على حماية البرمجيات والوكلاء الذكيين مع توسع استخدام الذكاء الاصطناعي. ويستند التحالف إلى مبادرات مجتمع Linux Foundation، بما في ذلك مبادرة Akrites وأعمال OpenSSF، مع التركيز على معالجة الثغرات والإفصاح عنها باستخدام تقنيات مفتوحة.
ويضم التحالف شركاء تأسيسيين من مجالات الحوسبة السحابية والأمن السيبراني وبرمجيات المؤسسات وأبحاث الذكاء الاصطناعي، من بينهم NVIDIA وAdobe وAkamai وAmazon وAtlassian وCisco وCloudflare وCrowdStrike وDell Technologies وDocker وGitHub وGoogle؟
الانفتاح كأداة دفاعية
يرى التحالف أن الدفاع السيبراني يحتاج إلى نماذج مفتوحة وأدوات تشغيل مفتوحة، لأنها تتيح للمدافعين فحص الأنظمة وتكييفها وتشغيلها على البنية التحتية الخاصة بهم، مع حماية البيانات وتقليل الاعتماد على مزود واحد. ووفق المادة، يمكن لهذه الأدوات أن تكمل النماذج المغلقة المتقدمة من خلال توفير ضوابط قابلة للتخصيص وملائمة للبيئات المحلية.
وتقر NVIDIA بأن النماذج المفتوحة، مثل أي تقنية قوية، قد تُساء الاستفادة منها عبر إضعاف وسائل الحماية أو إعادة توظيفها في هجمات سيبرانية. إلا أن المادة تجادل بأن هذه المخاطر لا تقتصر على الأنظمة المفتوحة، وأن إبقاء أوزان النماذج مغلقة لا يمنع المهاجمين المصممين من محاولة الوصول إلى القدرات المتقدمة أو استغلالها.
وتستشهد المادة بحادثة أمنية حديثة تعرضت لها Hugging Face، قائلة إن الشركة استخدمت نموذج GLM 5.2 مفتوح الأوزان على بنيتها التحتية لتحليل أكثر من 17 ألف إجراء واحتواء الاختراق، بعدما أعاقت أدوات ذكاء اصطناعي مغلقة التحليل الجنائي لأنها لم تتمكن من التمييز بين المهاجمين والمدافعين. وتستخدم NVIDIA هذه الواقعة لتوضيح أهمية امتلاك المدافعين أنظمة متقدمة يمكن فحصها وتعديلها وتشغيلها داخلياً.
مساهمات NVIDIA ومكونات الحماية
قالت NVIDIA إنها تساهم في التحالف بنماذج مفتوحة وأوزان نماذج وبيانات وأبحاث جديدة حول أطر تشغيل الوكلاء. كما أتاحت مشروع NVIDIA Labs Object-Oriented Agent (NOOA) مفتوح المصدر على GitHub، وهو إطار بحثي يهدف إلى مساعدة أطر تشغيل الوكلاء على التكامل بصورة أفضل مع النماذج، بما يجعل سلوك الوكلاء أسهل في الاختبار والتتبع والتدقيق والحوكمة.
ويعمل المشاركون على بناء منظومة دفاع مفتوحة للوكلاء تشمل الهوية والعزل، وصيغ النماذج الآمنة، والفحص متعدد النماذج، وسير عمل البرمجة الآمنة. ومن الأمثلة التي أوردتها المادة مساهمة HPE في SPIFFE/SPIRE للتحقق التشفيري من هويات الوكلاء والخدمات، وإتاحة Hugging Face صيغة Safetensors لمؤسسة PyTorch، وهي صيغة لتخزين أوزان النماذج مع ضمانات ضد تنفيذ التعليمات البرمجية عن بُعد.
دعوة إلى البنية التحتية المشتركة
دعت NVIDIA الحكومات والشركات والباحثين إلى الاستثمار في بنية تحتية مفتوحة للدفاع بالذكاء الاصطناعي، مثل مجموعات البيانات وأطر التقييم ومحاكيات الهجمات وأدوات الاختبار الهجومي. كما حثت صانعي السياسات والجهات التنظيمية على التعامل مع النماذج المفتوحة وأطر التشغيل وأدوات الأمن بوصفها أصولاً دفاعية، محذرة من أن القيود الشاملة على أنظمة الذكاء الاصطناعي المفتوحة قد تضعف القدرة الدفاعية وتزيد تركّز الاعتماد لدى عدد محدود من المزودين المغلقين.
كيف أعددنا هذا الخبر؟
اعتمد الخبر على المصدر الأصلي الموضح أعلاه. قد نستخدم أدوات آلية للمساعدة في الاستخراج والتصنيف والصياغة،
لكن النشر يخضع لقواعد تمنع المحتوى المكرر والقصير أو الروتيني منخفض القيمة.
اقرأ سياستنا التحريرية.