لماذا يحتاج الذكاء الاصطناعي الفيزيائي إلى الثقة من السيليكون إلى البرمجيات؟

ينتقل الذكاء الاصطناعي تدريجياً من إنتاج الإجابات والمحتوى إلى تشغيل أنظمة تتعامل مباشرة مع العالم المادي، مثل المركبات ذاتية القيادة والروبوتات الصناعية والطائرات المسيّرة والأنظمة الجراحية والبنى التحتية الذكية. في هذه التطبيقات، لا يقتصر أثر الخطأ على نتيجة غير دقيقة أو توصية سيئة؛ فقد يؤدي إلى تجاهل عائق، أو تشغيل آلية بطريقة خاطئة، أو فرملة مفاجئة، أو تعريض الأشخاص والعمليات لمخاطر فعلية.

هذه هي الفكرة المركزية في مقال رأي منشور برعاية Semiconductor Engineering في 3 سبتمبر 2026، بقلم Dana Neustadter وIlya Tolchinsky. ويشغل Tolchinsky منصب مدير منتجات رئيسي للذكاء الاصطناعي في Synopsys، بينما تشغل Neustadter منصب مديرة أولى لإدارة المنتجات لحلول الأمن في الشركة. وبحكم طبيعته، يعرض المقال تصوراً وتوصيات تحريرية من الكاتبين، لا إعلاناً عن منتج أو نتائج اختبار مستقلة.

الخطر يبدأ قبل تشغيل النموذج

يؤكد الكاتبان أن تهديدات الذكاء الاصطناعي الفيزيائي لا تبدأ عند مرحلة الاستدلال، ولا تنتهي عند طبقة البرمجيات. فالبيانات المستخدمة في التدريب قد تكون ناقصة أو متحيزة أو معدلة أو منخفضة الجودة، سواء كانت بيانات واقعية أم اصطناعية. وقد تتعلم المنظومة منذ البداية أنماطاً غير صحيحة لا تظهر بوضوح أثناء الاختبارات، ثم تنكشف عند مواجهة ظروف تشغيلية مختلفة.

وتشكّل المستشعرات نقطة تعرض أخرى، لأن الكاميرات وLiDAR والرادار والميكروفونات وأنظمة تحديد الموقع هي التي تبني صورة النظام عن البيئة. وإذا جرى حجب هذه المدخلات أو إفسادها أو التلاعب بها، فقد تتغير الصورة التي يعتمد عليها النموذج لاتخاذ القرار.

ولا تقتصر المشكلة على كل مكوّن منفرد. فالمنصة الروبوتية، مثلاً، قد تجمع بين مكوّن للإدراك وآخر لتخطيط الحركة وثالث لتنفيذ التحكم. ويمكن أن يؤدي التأخر الزمني أو اختلاف المدخلات أو انجراف النموذج أو اختراق أحد المكونات إلى فقدان التزامن وظهور سلوك يصعب التنبؤ به.

من جذور الثقة إلى السلوك أثناء التشغيل

يمتد سطح الهجوم أيضاً إلى العتاد، بما في ذلك السيليكون ووحدات الملكية الفكرية المدمجة والمسرّعات ووصلات الربط. ويشير المقال إلى أن ضعف جذر الثقة في العتاد، أو مسار تحديث البرامج الثابتة غير الآمن، أو إعادة استخدام وحدة ملكية فكرية معرضة للخطر في منتجات متعددة، قد يقوض الحماية الموجودة في الطبقات الأعلى.

وتضيف أنظمة الذكاء الاصطناعي الوكيلة تعقيداً آخر، لأنها تتنقل في بيئات ديناميكية وتتخذ قرارات وتغير سلوكها في الوقت الفعلي. لذلك، لا يرى الكاتبان أن التحقق من النموذج مرة واحدة قبل النشر كافٍ. بل يدعوان إلى ضمان مستمر أثناء التشغيل لمراقبة ما إذا كانت المخرجات لا تزال ضمن حدود التشغيل الآمن مع تغير الظروف.

ما الذي يتغير عملياً؟

الاستنتاج العملي للمقال هو أن الثقة يجب أن تُبنى على مستوى النظام بأكمله، من السيليكون إلى البرمجيات، بدلاً من حصرها في طبقة التطبيق. ويتطلب ذلك فحص مصدر البيانات، والتحقق من سلامة النماذج، وتأمين سلاسل توريد العتاد والبرمجيات، ومصادقة التحديثات، ومراقبة كيفية تصرف النظام عندما تكون المدخلات غير مؤكدة أو متعارضة.

تكمن أهمية هذا الطرح في أنه يربط الأمن بالسلامة التشغيلية: فحماية الشبكة وحدها لا تضمن أن المستشعرات تقيس البيئة بصورة موثوقة، ودقة النموذج وحدها لا تضمن أن القرار سيُنفذ ضمن حدود آمنة. لكن المقال لا يقدم معياراً كمياً أو آلية تنفيذ محددة لقياس هذه الضمانات، كما لا يعرض بيانات تجريبية تقارن بين أساليب مختلفة. لذلك تبقى دعوته إلى بناء الثقة عبر دورة الحياة إطاراً عاماً يحتاج إلى تحويله، في كل تطبيق، إلى اختبارات وضوابط قابلة للقياس.