يتغير تصميم وحدات معالجة الذكاء الاصطناعي العصبية NPU مع انتقال الأجهزة الطرفية من الاعتماد على شبكات الرؤية وحدها إلى تشغيل نماذج اللغة الكبيرة LLMs ونماذج الرؤية واللغة VLMs وميزات الذكاء الاصطناعي التوليدي إلى جانب شبكات الإدراك التقليدية. ويرى شاراد تشول، كبير العلماء والمؤسس المشارك لشركة Expedera، أن هذا التحول ينقل مركز المشكلة من تعظيم العمليات الحسابية إلى إدارة حركة البيانات والذاكرة، خصوصاً في الهواتف والسيارات والبوابات المضمنة.
المادة منشورة بصيغة مدونة راعية في Semiconductor Engineering، ولذلك فإن الأرقام والنتائج المتعلقة بمعمارية Origin Evolution تُعرض باعتبارها نتائج وتجارب تشير إليها Expedera، لا باعتبارها اختباراً مستقلاً من الجهة الناشرة.
من اختناق الحساب إلى اختناق الذاكرة
في أعباء الرؤية المعتمدة على شبكات CNN، مثل كواشف YOLO ومصنفات MobileNet وشبكات تقسيم الصور، كان القيد الرئيسي تاريخياً هو القدرة الحسابية. فالبيانات والأوزان يعاد استخدامهما بدرجة كبيرة، ويظل التنفيذ أثناء الاستدلال شبه عديم الحالة، ما جعل تصميم المسرعات يركز على رفع عدد عمليات الضرب والتراكم MAC ضمن حدود المساحة والطاقة.
تقول Expedera إن جدولة العمل على شكل حزم بدلاً من طبقات ضخمة حسّنت الاستفادة من وحدات MAC وخفّضت حركة التفعيلات إلى ذاكرة DDR الخارجية. لكن نماذج LLM وVLM تغيّر طبيعة الحمل. فمرحلة Prefill قد تظل كثيفة العمليات الحسابية، بينما تصبح مرحلة Decode مقيدة سريعاً بالوصول إلى ذاكرة التخزين المؤقت للمفاتيح والقيم KV cache، وبحجم المعلمات وأنماط الوصول إليها، مع انخفاض إعادة الاستخدام الفعالة.
وبحسب التحليل، فإن وحدات NPU المصممة أساساً لمعالجة CNN المتوازية وعديمة الحالة لا يكفي تقييمها من خلال رقم TOPS الاسمي عندما تصبح عمليات فك ترميز المحولات محدودة بعرض نطاق الذاكرة وحجم KV cache.
الحزم في أعباء المحولات
تبحث Expedera في توسيع مفهوم المعالجة القائمة على الحزم من شبكات CNN إلى كتل المحولات والوصول إلى KV cache، مع تصميم العتاد والبرمجيات معاً وفق سلوك نماذج LLM وVLM بدلاً من التعامل معها كأنها نموذج آخر فحسب.
تتكون المعمارية، وفق وصف الكاتب، من كتل معالجة منفصلة للعمليات الأمامية والانتباه والمتجهات، وتُوجَّه الحزم بينها وفق بنية الشبكة ومرحلة التنفيذ الحالية، سواء كانت Prefill أو Decode. وتقول الشركة إن محركها يمكن أن يتوسع إلى 128 تيرافلوب في نواة واحدة، وإلى مستوى البيتابلوب عند استخدام تكوينات متعددة النوى، مع إبقاء سلوك الذاكرة في مركز التصميم.
وتحافظ المعمارية، بحسب Expedera، على تشغيل النماذج كما دُرّبت، من دون إعادة تدريب أو خفض الدقة. كما تشير الشركة إلى أن المعالجة القائمة على الحزم خفّضت، مقارنة بأساليب بديلة، حركة الذاكرة الخارجية بأكثر من 75% عند تشغيل Llama 3.2 1B وQwen2 1.5B. وتذكر كذلك نتائج تصفها بأنها آلاف التيرافلوبات الفعالة وعشرات الرموز في الثانية لكل مليمتر مربع من السيليكون في السيناريوهات المقيدة بالذاكرة.
ما الذي يعنيه ذلك للأجهزة الطرفية والسيارات؟
تشغيل الاستدلال محلياً يمكن أن يقلل زمن الاستجابة من طرف إلى طرف، كما يبقي بيانات المقصورة أو الجهاز خارج السحابة. ويكتسب ذلك أهمية في السيارات والأجهزة المحمولة، حيث تتداخل متطلبات تجربة الاستخدام مع قيود الخصوصية والمتطلبات التنظيمية، وفق ما يورده الكاتب.
في المقابل، يمثل بث KV cache إلى DDR أو HBM عند كل خطوة من خطوات فك الترميز عبئاً على الطاقة والتكلفة، خصوصاً في العقد الطرفية والأنظمة داخل المركبات. وترى Expedera أن خفض عمليات النقل الخارجية وزيادة إعادة الاستخدام المحلي قد يتيح عدداً أكبر من الرموز في الثانية ضمن ميزانية طاقة محددة.
كما تحتاج أنظمة السيارات على الرقاقة إلى تشغيل الإدراك ومراقبة السائق والترفيه المعلوماتي والميزات التوليدية في الوقت نفسه. ومن منظور الكاتب، فإن عائلة NPU تتعامل مع CNN وLLM كأعباء أساسية معاً قد تبسط تصميم المنصة وتقلل الحاجة إلى مسرعات منفصلة، بدلاً من إضافة دعم LLM إلى نواة محسنة أصلاً لشبكات CNN.
ويشير المقال إلى حصول Origin Evolution على جائزة «أفضل ملكية فكرية لمعالج ذكاء اصطناعي طرفي» ضمن جوائز Edge AI and Vision Product of the Year لعام 2026، مع ربط الكاتب لهذه الجائزة بأهمية معالجة اختناقات الذاكرة والطاقة بدلاً من الاكتفاء برفع مؤشرات الأداء القصوى.
نمذجة مرحلتي Prefill وDecode
يرى تشول أن القيمة الهندسية لا تكمن في مفهوم الحزم وحده، بل في نمذجة مرحلتي Prefill وDecode وتحسينهما بصورة منفصلة. فالأولى تحتاج إلى إنتاجية حسابية مرتفعة وتتشابه جزئياً مع سلوك شبكات CNN، مع التعامل مع نماذج أكبر، بينما تهيمن على الثانية قراءات KV cache وبث الذاكرة وحسابات أصغر لكل خطوة.
وتتيح تدفقات الحزم والكتل المنفصلة، بحسب المادة، بناء نماذج أداء وعرض نطاق تميز بين المرحلتين، ودراسة إعدادات تسلسل الذاكرة وواجهات البث، مثل عرض DRAM أو HBM وحجم SRAM وتقسيمها، وفق أنماط الوصول الفعلية إلى KV cache. كما يمكن استخدامها لتحليل أسوأ زمن استجابة وتأثير عرض النطاق في أعباء السيارات الحساسة للسلامة عندما ترتبط ميزات LLM أو VLM بواجهة التفاعل بين الإنسان والآلة أو بمراقبة السائق.
التوافق البرمجي ودور أدوات EDA
تقول Expedera إن حزمة Origin Evolution تستقبل نماذج من HuggingFace وLlama.cpp وTVM وغيرها، وتدعم الدقة الصحيحة والكسرية، والأوضاع المختلطة، ودمج الطبقات أو تقسيمها، إلى جانب التحكم المركزي في عدة أنوية على مستوى الشريحة أو الرقاقة متعددة القوالب.
ومن وجهة نظر الكاتب، لا تمثل الحزم نموذج برمجة جديداً لمستخدمي النماذج؛ إذ تتم عملية تحويلها داخل مسار المترجم وبيئة التشغيل، مع إمكانية وضع النماذج المدربة على العتاد من دون إعادة تدريب أو خفض الدقة. وقد يقلل ذلك الحاجة إلى إعادة كتابة مخصصة لكل عتاد، ويسمح لفرق EDA والتحقق باختبار الأداء مقابل تطبيقات مرجعية مثل Llama 3 وQwen 2.
ويخلص المقال إلى أن السؤال المقبل لا يقتصر على نجاح الحزم مع CNN، بل يتعلق بمدى تبسيطها للنمذجة والجدولة والتحقق عبر أعباء ذكاء اصطناعي غير متجانسة. ومع انتقال الميزات التوليدية إلى السيارات والأجهزة الطرفية، قد تحدد هذه العوامل أي معماريات المسرعات تنتقل إلى الإنتاج وأيها تبقى ضمن عروض المعايير.