عرضت Bruna Pereira، مهندسة البرمجيات في DoorDash، تجربة بناء منصة SafeChat لمراقبة السلامة في سوق لحظي يربط المستهلكين بعمال التوصيل والتجار. الفكرة الأساسية لم تكن إضافة نموذج لغوي كبير إلى كل رسالة، بل تصميم منظومة هجينة تستطيع اتخاذ قرارات سريعة في الحالات الواضحة، والاستعانة بتحليل أعمق عندما تكون الرسالة أكثر تعقيداً.
تتعامل DoorDash مع تواصل يحدث أثناء رحلة توصيل قصيرة، عبر الدردشة والمكالمات، وقد يلتقي أطرافه شخصياً. لذلك ترى الشركة أن سلامة المستخدمين وشعورهم بالأمان داخل المنصة هدفان متساويان من منظور المنتج. ويرتبط جزء مهم من حوادث السلامة بالإساءة اللفظية، ما يجعل اكتشاف المحتوى غير الآمن والتصرف حياله مسألة زمنية بقدر ما هي مسألة دقة.
لماذا لا يكفي استدعاء نموذج لغوي لكل رسالة؟
تشير المادة إلى حجم التشغيل الذي صُممت SafeChat من أجله: أكثر من 4 ملايين رسالة دردشة يومياً، وما يزيد على 400 ألف مكالمة بين المستهلكين وعمال التوصيل أثناء عمليات التسليم، إضافة إلى أكثر من 200 ألف صورة يجري تبادلها عبر الدردشة أو الرسائل النصية. وفي الدردشة تحديداً، لا تملك المنصة سوى جزء من الثانية لتقرر ما إذا كانت الرسالة آمنة، حتى لا تتحول المراقبة إلى مصدر إزعاج للمستخدم.
كان الحل المباشر ظاهرياً هو تمرير كل رسالة إلى نموذج لغوي كبير، ثم تسليمها إذا صنفها على أنها آمنة وحجبها خلاف ذلك. لكن Pereira توضح أن هذا التصميم لا يلائم الإنتاج على هذا الحجم. فقد تتراوح مدة استدعاء النموذج بين ثانيتين و10 ثوانٍ في المتوسط، وهي مدة أطول بكثير من المهلة المتاحة للدردشة، كما أن استدعاء النموذج ملايين المرات يومياً يرفع التكلفة إلى مستوى غير عملي.
منهج SafeChat الهجين
بدأ الفريق قبل بناء قرارات آلية نهائية بدراسة البيانات وفهم معنى «عدم الأمان» داخل سياق DoorDash. واستغرقت هذه المرحلة شهرين تقريباً، مع استخدام واجهة برمجة تطبيقات مجانية للمراقبة متاحة في السوق واستدعائها بشكل غير متزامن، بهدف التعرف إلى فئات الرسائل غير الآمنة ونسبة ظهورها.
تصف Pereira هذه الخطوة بأنها مملة، لكنها ضرورية؛ إذ لا يمكن تصميم بنية فعالة قبل معرفة طبيعة البيانات وتوزيع الحالات. وبعد ذلك اعتمدت SafeChat نمطاً هجينا يضع نماذج داخلية سريعة في مقدمة المسار لتصفية الحالات الواضحة، ثم يستخدم نماذج لغوية كبيرة لتقييم الحالات الأكثر التباساً عبر محاور متعددة بدلاً من اختزال القرار في سؤال ثنائي عن كون الرسالة آمنة أو غير آمنة.
كما أضيفت مسارات عمل بلا برمجة، تتيح تعديل قواعد المعالجة واختبارها رجعياً على بيانات سابقة قبل إدخالها إلى التشغيل. وتكمن قيمة هذا الجزء في تقليل الاعتماد على تغيير الشيفرة لكل تعديل، مع توفير وسيلة لقياس أثر القرار قبل تعميمه.
ما الذي يتغير عملياً؟
يحوّل هذا التصميم الذكاء الاصطناعي من نقطة فحص واحدة إلى سلسلة قرارات موزعة بحسب طبيعة الحالة. فالرسائل التي يمكن حسمها بسرعة لا تحتاج إلى المرور عبر نموذج مكلف وبطيء، بينما تحصل الحالات الدقيقة على تحليل أعمق. وبهذا يصبح من الممكن الموازنة بين زمن الاستجابة والتكلفة وجودة التصنيف، وهي موازنة لا يحلها استخدام نموذج أكبر وحده.
وتشير المادة إلى أن هذا النمط ساعد DoorDash على خفض حوادث السلامة مع التوسع إلى ملايين الرسائل اليومية. الدرس الأوسع للفرق التي تبني أنظمة ذكاء اصطناعي لحظية هو أن مرحلة فهم البيانات والقياس المسبق ليست تمهيداً ثانوياً؛ بل هي التي تحدد أين يجب استخدام النموذج، وأين يكون النموذج الداخلي أو مسار العمل الأبسط كافياً.