يشهد قطاع الذكاء الاصطناعي نقاشاً واسعاً حول آليات حوكمة النماذج المتقدمة وتقييمها قبل النشر، إلا أن هذه النقاشات الكبرى تتجاهل غالباً الشيفرة البرمجية الفعلية التي تقرر ما إذا كان وكيل الذكاء الاصطناعي مسموحاً له بتنفيذ إجراءات حساسة مثل إرسال رسائل بريد إلكتروني، أو تعديل مفاتيح التشفير، أو دمج فروع البرمجيات، أو تحويل الأموال. تلك القرارات لا تصنعها المختبرات الكبرى ولا النصوص التنظيمية، بل تتخذها دوال برمجية بسيطة تعيد قيمة صح أو خطأ.
أظهرت اختبارات الضغط التي أجريت على بروتوكول مفتوح المصدر للتحقق من إجراءات الوكلاء المسمى "PIC" أن المشكلات لا تنجم بالضرورة عن فشل التشفير، بل عن قبول البروتوكول لصيغ متعددة وصحيحة ظاهرياً ولكنها قابلة لتفسيرات مختلفة. على سبيل المثال، قد يقبل المخطط البنيوي رموز التجزئة بأحرف كبيرة أو صغيرة، بينما يتعامل المترجم الفوري معها بطرق تفضي إلى نتائج متباينة بين نظام وآخر دون الإخلال بالمواصفات القياسية المعلنة.
حدود مخططات JSON في التحقق من صحة البيانات
تؤدي مخططات JSON دوراً أساسياً ولكن محصوراً في التحقق من بنية البيانات؛ فهي تتأكد من وجود الحقول المطلوبة وصحة أنواعها القيمية وملاءمتها للقواعد العامة. ومع ذلك، يعجز المخطط عن فرض قواعد ترابطية معقدة، مثل ضمان أن مرجعاً معيناً للأدلة يشير إلى عنصر وحيد داخل مصفوفة المصادر دون تكرار أو التباس.
تؤدي الاختلافات في تنفيذ عمليات البحث أو مطابقة المعرفات بين لغات البرمجة المختلفة إلى ما يُعرف بتباين المحللات، وهو نوع قديم من الثغرات الأمنية ظهر سابقاً في بروتوكولات مثل HTTP وJWT، حيث يقرأ مكونان نفس المدخلات بطريقتين مختفلتين. وفي بروتوكولات الوكلاء الحديثة، تؤدي هذه الفوارق الدقيقة إلى قبول إجراءات في خدمة معينة بينما ترفضها خدمة أخرى تستخدم نفس السياسة والمواصفات.
تأثير عمليات التطبيع على أمان البروتوكول
يميل المطورون عادة إلى تطبيع المدخلات لتجنب رفض البيانات القابلة للاسترداد، مثل إزالة المسافات الزائدة، أو تحويل الحروف إلى صغيرة، أو إصلاح حشوات Base64. ومع ذلك، تشكل هذه الممارسات خطورة حقيقية عند حدود المصادقة. فعلى سبيل المثال، إذا قام المترجم بتطبيع اسم الأداة أو إزالة المسافات قبل مطابقتها مع قائمة السماح، فقد ينفذ النظام إجراءً لم يوافق عليه الطرف الموقع، أو يتلاعب بصلاحيات التنفيذ دون علم المطورين.
إضافة إلى ذلك، فإن الاعتماد على الحقول التي يرسلها الوكيل نفسه للإقرار بموثوقية مصدره يفتح الباب أمام مشكلة النائب الخاضع للارتباك بصيغة رقمية. يجب أن تُستمد الثقة حصراً داخل حدود إنفاذ القانون والتحقق، من خلال التحقق من التوقيعات الرقمية ومطابقتها لمفاتيح مشفرة يثق بها المشغل مباشرة، وبصرف النظر عن الادعاءات الواردة في حمولة الطلب.
بنية الطبقات الثلاث ومتجهات المطابقة التنفيذية
لتجنب هذه الثغرات، يتطلب الأمر بنية تفصل بوضوح بين ثلاث طبقات متتالية:
- التحقق من المخطط: لرفض البنى التالفة والتمثيلات غير المطابقة للشبكة.
- التحقق الدلالي: لحل المراجع، التحقق من الارتباطات، واشتقاق الثقة الفعلية.
- تقييم السياسات: لاتخاذ القرار النهائي بشأن السماح بتنفيذ الإجراء أو حظره.
لا كفاية للاكتفاء بالملاحظات التوثيقية؛ بل تلزم أدوات اختبار مطابقة تنفيذية واضحة تتضمن مدخلات دقيقة، ونتائج متوقعة، وأكواد أخطاء مستقرة للتعامل مع الحالات الغامضة. تضمن هذه المتجهات توحيد السلوك across جميع التنفيذات وتمنع اعتماد الأمان على التكوينات الافتراضية المتباينة في الجسور البرمجية المختلفة.
كيف أعددنا هذا الخبر؟
اعتمد الخبر على المصدر الأصلي الموضح أعلاه. قد نستخدم أدوات آلية للمساعدة في الاستخراج والتصنيف والصياغة،
لكن النشر يخضع لقواعد تمنع المحتوى المكرر والقصير أو الروتيني منخفض القيمة.
اقرأ سياستنا التحريرية.