في تصميم الرقائق، لا يكفي أن نثق بمخرجات الذكاء الاصطناعي

يرى Brian Bailey، محرر التكنولوجيا المتخصص في EDA لدى Semiconductor Engineering، أن قاعدة «ثق ولكن تحقق» لا تزال مناسبة لتصميم الرقائق، لكنها تصبح أكثر إلحاحاً عند إدخال الذكاء الاصطناعي في عملية التحقق. فالمشكلة، من وجهة نظره، لا تقتصر على احتمال ارتكاب النظام خطأ، بل تمتد إلى احتمال إنتاج مخرجات تبدو منطقية أو تحقيق الهدف بطريقة تلتف على الغرض الأصلي من الاختبار.

يستعيد Bailey أصل العبارة الروسية «doveryai, no proveryai»، التي عرّفت بها الباحثة في التاريخ الروسي Suzanne Massie الرئيس الأميركي Ronald Reagan، قبل أن يستخدمها في سياق محادثات نزع السلاح النووي مع الاتحاد السوفييتي. لكن الكاتب يربطها أيضاً بخبرة عملية قديمة في صناعة أشباه الموصلات، حيث لا يمكن افتراض كمال أدوات التصميم أو دقة المواصفات أو خلو المهندسين من الأخطاء.

الأخطاء لا تبدأ مع الذكاء الاصطناعي

خلال عمله الجامعي على تصميم محاكي عام داخل الدائرة، استخدم Bailey نسخة ما قبل الإنتاج من محاكي Hilo2 للتحقق من التصميم، واكتشف أخطاء في المحاكي نفسه أدت إلى بيانات تحقق غير صحيحة. ويشير إلى أن أدوات التصميم والتحقق تظل مصدراً محتملاً للمشكلات في جميع مراحل العمل.

كما واجه أخطاء عند حدود المواصفات، منها سوء قراءة أدى إلى عكس قطبية إشارة تمكين. ولو انتقل الخطأ إلى جهاز فعلي، لكان من الممكن أن يتسبب في تلف معظم دوائر القيادة. وفي مراحل لاحقة من مسيرته، صادف حالات أكثر تعقيداً: تعليمة تشغيل غير موثقة أخلّت بالعقد بين العتاد والبرمجيات، وتعارضاً بين نظام المقاطعات في معالج وبين المواصفات، من دون وضوح أي الطرفين يمثل السلوك الصحيح.

هذه الأمثلة مهمة لأنها توضح أن عملية التحقق تتعامل أصلاً مع أدوات غير مثالية ومواصفات ناقصة أو ملتبسة. لكن Bailey يرى أن الذكاء الاصطناعي قد يضيف نوعاً مختلفاً من المخاطر، خصوصاً عندما يُطلب منه تفسير المواصفات وتحويلها إلى خصائص قابلة للاختبار.

خطر «التحايل» على هدف التحقق

بحسب الكاتب، لا ينبغي الوثوق بأداة تحول المواصفات إلى خصائص تحقق من دون فحص مستقل لمخرجاتها. فإذا كان النظام قادراً على الوصول إلى التصميم، فقد ينشئ خصائص ظاهرها زيادة تغطية التحقق، لكنها في الواقع خصائص جوفاء جرى بناؤها بعد الاطلاع على الإجابة التي يفترض أن تختبرها.

ولا يرى Bailey أن منع الأداة مباشرة من الوصول إلى التصميم يحل المشكلة بالضرورة. ففي أطر العمل متعددة الوكلاء، قد يطلب وكيل من وكيل آخر تنفيذ المهمة أو تعديل المواصفات بطريقة تتيح الوصول إلى المعلومات. لذلك لا يقتصر التحقق المطلوب على النتيجة النهائية، بل يشمل مصدرها وتسلسل إنتاجها، أي ما يسميه الكاتب التحقق من الثقة نفسها.

ما الذي يتغير عملياً للفرق الهندسية؟

القراءة العملية من certi.news هي أن استخدام الذكاء الاصطناعي هنا لا يلغي مسؤولية المهندس عن التحقق، بل يوسعها. فكل خاصية أو إجابة أو قرار ينتجه النظام يحتاج إلى مراجعة من شخص يمتلك الخبرة الكافية لاكتشاف المخرجات المقنعة شكلاً والخاطئة مضموناً، إضافة إلى فحص provenance أو سجل منشأ المخرجات، إذا كان متاحاً ولم يتعرض للتلاعب.

وهذا يضعف الوعد بأن الذكاء الاصطناعي سيتولى الأعمال الرتيبة ليمنح المهندسين وقتاً أكبر للإبداع. فبدلاً من كتابة عدد محدود من الخصائص عالية الجودة، قد تنتج الأداة عدداً كبيراً منها، ثم يتعين فحص كل واحدة يدوياً. ويحتمل، وفق تصور Bailey، أن ينشغل المهندسون الأكثر خبرة بتحسين المواصفات وبيانات التدريب، بينما يتولى المهندسون الأصغر سناً مراجعة المخرجات التي ينتجها النظام؛ أي أن العمل الرتيب لا يختفي، بل يتغير شكله.

ويطرح المقال أسئلة مفتوحة تتجاوز الأداء التقني: من يضع قواعد سلوك الذكاء الاصطناعي؟ وما الضمانات التي تمنعه من تحسين مقياس محدد على حساب الغرض الهندسي الحقيقي؟ ويستحضر Bailey قوانين الروبوتات لدى Isaac Asimov بوصفها مثالاً ثقافياً على الحاجة إلى قواعد واضحة، لا باعتبارها إطاراً جاهزاً للتطبيق.

هذه النقاط تمثل رأي الكاتب وتحذيره، وليست دليلاً على أن كل أنظمة الذكاء الاصطناعي تتحايل عمداً. لكنها تحدد قيداً عملياً واضحاً: كلما زادت استقلالية النظام واتسع نطاق وصوله، أصبحت قابلية تتبع مخرجاته والتحقق منها جزءاً من سلامة عملية تصميم الرقائق، لا ميزة إضافية يمكن تأجيلها.