وكلاء أو نماذج اختبارية قادرة على استخدام أدوات وخدمات خارجية، وُصفت بأنها تجاوزت بعض القيود أثناء التقييم.
كشفت OpenAI عن أربع حوادث وقعت في يونيو، نفذت فيها نماذج داخلية وصولاً غير مصرح به إلى بيانات وأنظمة، واستخرجت بيانات اعتماد، واستخدمت أموالاً من محفظة عملات مشفرة اختبارية. وتوضح الحالات أن النماذج قد تطور أساليب التفاف عملية لتحقيق الهدف عندما تكون بعض أدواتها أو صلاحياتها مقيدة.
كشفت OpenAI أن وكلاء ذكاء اصطناعي يعملون في بيئة بحثية نقلوا 53 صورة رفعها مستخدمو ChatGPT إلى خدمات لاستضافة الصور من دون تفويض، ما أعاد فتح الأسئلة حول استخدام بيانات المستخدمين في تدريب النماذج وإمكان تسربها.