جمعت شركة Artificial Intelligence Underwriting Company، المعروفة اختصاراً بـAIUC، 40 مليون دولار في جولة تمويل Series A قادتها Ribbit Capital بمشاركة First Harmonic، بهدف بناء طبقة مستقلة لتدقيق واعتماد سلامة وكلاء الذكاء الاصطناعي المستخدمين داخل المؤسسات أو المطورين من قبل شركات النماذج والتطبيقات.
يقود الشركة Rune Kvist، وهو موظف مبكر سابق في Anthropic، وRajiv Dattani، الذي شغل منصب الرئيس التنفيذي للعمليات في منظمة أبحاث سلامة الذكاء الاصطناعي METR بين عامي 2024 و2025، ولا يزال عضواً في مجلس إدارتها. وتقول AIUC إن Cursor وLovable وHarvey وElevenLabs من عملائها.
معيار مستوحى من تدقيق الأمن السيبراني
تراهن AIUC على نقل نموذج مألوف من الأمن السيبراني إلى مخاطر وكلاء الذكاء الاصطناعي. فقد طورت معياراً باسم AIUC-1، إلى جانب خدمة اختبار وتدقيق تقيس مدى تصرف الوكيل بأمان وموثوقية. وتستند الفكرة إلى معيار SOC 2 الشائع في تقييم ضوابط الشركات التقنية، لكن المصدر لا يذكر أن AIUC-1 معيار معتمد أو واسع التبني خارج نطاق الشركة وعملائها.
ولصياغة المعيار، جمعت الشركة ائتلافاً يضم نحو 250 من مسؤولي الأمن وإدارة المخاطر، وهم الفئة التي تشتري الوكلاء أو تقرر نشرهم. وتستخدم AIUC آراء هؤلاء المشاركين لتحديد الأسئلة والمخاطر التي ينبغي أن تغطيها الاختبارات.
نحو 5,000 اختبار وتحقق بشري نهائي
تُمرر الشركة الوكيل عبر مجموعة تضم نحو 5,000 اختبار في سيناريوهات تشمل محاولات كسر الحواجز، والهلوسة، وتسرب البيانات. وتنتج العملية تقريراً يقارب 100 صفحة يوضح المجالات التي يتصرف فيها الوكيل بأمان وموثوقية، والمجالات التي تظهر فيها نقاط ضعف أو مخاوف.
تستخدم AIUC وكلاء ذكاء اصطناعي لتنفيذ الاختبارات وتحليل البيانات، لكن Rune Kvist قال إن مدققين بشريين يتحققون من نتيجة التدقيق النهائية. ويهدف التقرير إلى تزويد المؤسسة بمعلومات مستقلة قبل اتخاذ قرار شراء الوكيل أو نشره، لا إلى تقديم ضمان مطلق بأن النظام آمن في كل الظروف.
ما الذي يختلف عن تقييمات METR؟
تجري METR اختبارات مشابهة في جانب الاستقلالية والتقييم، لكن عملها ركز حتى وقت قريب بدرجة أكبر على أداء الوكلاء وقدرتهم على إنجاز مهام محددة بصورة موثوقة. أما AIUC فتحاول توجيه التقييم نحو المخاطر التي تهم المؤسسات عند الاستخدام العملي، مثل تسرب البيانات والسلوك غير المرغوب فيه.
قراءة certi.news
التطور الأهم هنا ليس التمويل وحده، بل محاولة تحويل سلامة وكلاء الذكاء الاصطناعي إلى عملية تدقيق خارجية قابلة للمقارنة قبل الشراء. هذا قد يفيد المؤسسات التي لا تستطيع الاكتفاء بادعاءات مزودي النماذج حول السلامة، لكنه يترك أسئلة مفتوحة حول مدى اعتراف السوق بمعيار AIUC-1، وكيف ستتغير نتائج الاختبارات مع تحديث الوكلاء، وما إذا كانت الاختبارات الخمسة آلاف تمثل بيئات التشغيل الفعلية. كما أن اعتماد جزء من الاختبار والتحليل على الذكاء الاصطناعي نفسه يجعل التحقق البشري النهائي عنصراً حاسماً في مصداقية الخدمة.
يربط مؤسسا AIUC هذا النموذج بصعوبة نشر أنظمة أكثر ذكاءً داخل البنوك والمستشفيات والحكومات والجهات العسكرية عندما لا تستطيع المؤسسات ضمان حدود سلوك النظام لعملائها. ويتقاطع ذلك مع دعوة Dario Amodei، الرئيس التنفيذي لـAnthropic، إلى إبطاء تطوير النماذج المتقدمة واستخدام مقيمين مستقلين لمراقبة السلامة والتحقق منها، مع ذكر METR كأحد الخيارات الممكنة.
كيف أعددنا هذا الخبر؟
اعتمد الخبر على المصدر الأصلي الموضح أعلاه. قد نستخدم أدوات آلية للمساعدة في الاستخراج والتصنيف والصياغة،
لكن النشر يخضع لقواعد تمنع المحتوى المكرر والقصير أو الروتيني منخفض القيمة.
اقرأ سياستنا التحريرية.