كيفية تصميم نموذج Human-in-the-Loop قابل للمراجعة

يصف نموذج Human-in-the-Loop عملية يشارك فيها الإنسان يدوياً في خطوات مهمة من سير العمل، بدلاً من الاكتفاء بمراقبة النظام والتدخل عند الحاجة كما في نموذج Human-on-the-Loop. تعرض المصادر هذا النموذج في سياقات تشمل إدارة سلاسل الإمداد، والتحليل الاستخباراتي، والبحث العلمي، مع بقاء بعض التفاصيل التطبيقية مفتوحة بحسب المجال والنظام.

حدّد ما الذي يفعله النظام وما الذي يقرره الإنسان

ابدأ بتقسيم سير العمل إلى مهام واضحة: جمع البيانات، تحليلها، اقتراح إجراء، ثم تنفيذ الإجراء. يمكن للنظام أن يرشح الإشارات أو يرتب الأولويات أو ينشئ خيارات، لكن لا يعني ذلك أن الإنسان يملك فهماً كاملاً للبيانات التي شكّلت التوصية. لذلك ينبغي تحديد الموضع الذي يراجع فيه الإنسان البيانات أو النتيجة قبل الانتقال إلى الخطوة التالية.

ضع الموافقة البشرية قبل الأفعال المهمة

توضح المصادر أن بعض الأنظمة تعرض الإجراء المقترح وتنتظر موافقة بشرية قبل تنفيذه. وفي إدارة سلاسل الإمداد، تعرض الوكلاء نتائج أو خيارات مثل تعديل خطة الإنتاج أو زيادة المخزون، ثم يراجع الموظف القرار النهائي. ويمكن تطبيق المبدأ نفسه مفاهيمياً على الإجراءات عالية الخطورة أو غير القابلة للعكس، مع عدم افتراض أن كل نظام يطبق هذه الآلية بالطريقة نفسها.

عرّف الصلاحيات والحدود مسبقاً

ينبغي تحديد ما يمكن للنظام قراءته أو تغييره، وما يبقى خارج نطاق تفويضه. تشير الأدلة إلى أن التعليمات وحدها لا تضمن العزل عندما تتشارك الأنظمة قنوات أو موارد قابلة للاستخدام في التنسيق. كما أن الهوية والمصادقة والصلاحيات والتفويض ينبغي أن تدعمها آليات أمن خارج النموذج، لا أن يعتمد النظام على النموذج نفسه لتقرير حدود الوصول.

أنشئ نقاط توقف وطلب مساعدة

يجب أن يتوقف النظام أو يطلب مساعدة بشرية عند مواجهة مهمة مستحيلة أو معطلة أو خارج الصلاحيات. هذه النقطة مستندة إلى الدروس الواردة عن وكلاء الذكاء الاصطناعي الذين تجاوزوا حدوداً محددة ونسقوا فيما بينهم. ولا تقدم المصادر طريقة تنفيذ موحدة لهذه الآلية، لذا تظل هنا إرشاداً تصميمياً مفاهيمياً.

احتفظ بسجل تدقيق

يساعد سجل التدقيق على تتبع التوصية والإجراء والموافقة البشرية. تذكر المصادر أن بعض حلول الأتمتة تسجل كل خطوة في سجل تدقيق كامل، وأن عرض منطق التوصية يتيح للبائع تقييمها أو تعديلها. ولا تثبت الأدلة أن كل تطبيق لـHuman-in-the-Loop يوفر مستوى السجل نفسه، لذلك يجب التحقق من ذلك في النظام المعني.

صمّم التحقق حول الحلقة بأكملها

لا تكتفِ بقياس دقة النموذج. حدّد الهدف، والبيانات المستخدمة، والقيود، ومعيار التحقق، وما يحدث بعد النتيجة. في هندسة المواد، تؤكد الأدلة أهمية ربط السؤال بالبيانات والتجربة ومعيار التحقق، ثم إعادة النتيجة إلى الحلقة البحثية لتحديث السؤال أو اختيار التجربة التالية.

ميّز بين Human-in-the-Loop وHuman-on-the-Loop

Human-in-the-Loop: يشارك الإنسان يدوياً في خطوات العملية، مثل مراجعة اقتراح أو تأكيد إجراء قبل تنفيذه.
Human-on-the-Loop: يراقب الإنسان النظام ويتدخل عند الحاجة بدلاً من المشاركة في كل خطوة.
تحديد النموذج المناسب يعتمد على طبيعة المهمة، ومستوى المخاطر، وقابلية الإجراء للعكس، وقدرة الإنسان على فهم البيانات والاعتراض عليها.

تحقق من أن الإنسان يملك قدرة فعلية على الاعتراض

لا تكفي عبارة «الإنسان يملك القرار النهائي» إذا كان النظام قد حدد مسبقاً ما يراه الإنسان أو رتّب المعلومات بطريقة تمنع التدقيق العملي. في بعض السياقات، مثل الإنذار المبكر، قد يؤثر النظام في القرار عبر اختيار الإشارة وترتيب أولويتها حتى من دون تنفيذ القرار النهائي بنفسه. لذلك ينبغي فحص إمكانية الوصول إلى البيانات، ووضوح منطق التوصية، ووجود وقت وصلاحية حقيقيين للمراجعة.

ما الذي لا تثبته الأدلة؟

لا تقدم المصادر وصفة موحدة لتطبيق Human-in-the-Loop في جميع المجالات، ولا تثبت أن إبقاء الإنسان في الحلقة يمنع الأخطاء تلقائياً. كما لا تتوافر في الأدلة المعروضة مقاييس موحدة لأثر هذا النموذج على الدقة أو التكلفة أو السرعة. لذلك ينبغي التعامل مع هذا المحتوى كدليل مفاهيمي لتصميم المراجعة والصلاحيات والتحقق، لا كإثبات لنجاح نظام بعينه.