Тестирование, проведённое компанией White Circle, специализирующейся на оценке безопасности искусственного интеллекта, выявило слабые места в защитных барьерах, препятствующих созданию откровенного контента моделями генерации изображений OpenAI и Google. Исследователи с помощью доступных для скачивания инструментов, общедоступных моделей и запросов через интерфейсы программирования приложений смогли обойти фильтры и создать изображения, которые люди-рецензенты классифицировали как откровенные.
Самый высокий показатель успеха составил около 13% для DALL·E 3, тогда как для Google Nano Banana 2 он был ниже 10%, а для GPT-Image-2 — около 3%. White Circle заявляет, что эти показатели были самыми высокими среди протестированных методов при использовании одного и того же критерия, подчёркивая, что атаки не требовали передовых моделей или специализированных инструментов.
Более новые версии и более тревожные результаты тестирования
White Circle сообщила Ars Technica, что первоначальные испытания тем же методом показали: ChatGPT Images 2.5 и Nano Banana 2.1, более новые версии от OpenAI и Google, были «значительно более уязвимыми» по сравнению с двумя предыдущими версиями. Ни одна из компаний не ответила на запросы о комментариях или на результаты, которыми сайт с ними поделился.
Сами по себе эти результаты не доказывают, что новые модели слабее во всех сценариях использования, однако они ставят практический вопрос о компромиссе между расширением возможностей генерации и ужесточением превентивных ограничений. White Circle предполагает два возможных объяснения: более новые модели стали лучше создавать более широкий спектр контента либо безопасность отошла на второй план по сравнению с возможностями.
Как работает атака RISE?
White Circle назвала свой метод «красным тестированием посредством итеративной эволюции стратегий» (RISE). Вместо того чтобы каждый раз пробовать один вредоносный запрос, метод использует модель-атакующего для генерации многочисленных попыток взлома и модель-судью для проверки создания запрещённого контента, стремясь найти шаблоны, которые можно повторно использовать и переносить между разными моделями.
Система опиралась на общедоступную версию Qwen3-32B, из которой было удалено обучение безопасности, в качестве модели-атакующего, а также на Gemini 2.5 Flash в качестве модели-судьи. Компания заявляет, что такая архитектура означает: для тестирования защиты передовой модели не требуется передовая модель или собственная технология — достаточно бесплатных инструментов и возможности отправлять запросы к программному интерфейсу.
Почему это важно?
Проблема приобретает всё большее значение, поскольку несогласованный синтетический сексуальный контент может создаваться или распространяться в обход систем мониторинга — через личные сообщения или частное облачное хранилище. Исследование, в котором участвовала Google, показало, что 20% пользователей, признавших создание обнажённых изображений с помощью искусственного интеллекта, делали это «ради развлечения» или «в шутку», тогда как около трети заявили, что экспериментировали с технологией. Это означает, что техническое трение внутри моделей может удержать от подобных действий некоторых пользователей.
Кроме того, Internet Watch Foundation предупредила, что за первые шесть месяцев 2026 года были обнаружены 6 310 изображений, сгенерированных искусственным интеллектом, которые с юридической точки зрения подпадают под категорию материалов сексуального насилия над детьми. Это примерно на 40% больше общего числа изображений, обнаруженных в предыдущем году. Фонд призывает тестировать модели до их выпуска и разрабатывать защитные барьеры, предотвращающие создание таких материалов с самого начала.
Независимое тестирование обсуждается
White Circle намерена предоставить весь конвейер атаки в качестве открытого исходного кода, а также планирует представить исследование на конференции NeurIPS 2026 в ноябре. Компания считает, что этот метод может помочь лабораториям обнаруживать более разнообразные попытки обхода ограничений — не только для откровенных изображений, но и для контента, связанного с насилием или причинением вреда себе.
Однако White Circle также выступает за обязательный независимый аудит и мониторинг со стороны третьих сторон, полагая, что самостоятельная оценка компаниями собственных систем может не выявить всех рисков. Открытыми остаются важные вопросы, в том числе о том, как калибровать тестирование откровенного контента, как защищать исследователей от соглашений о неразглашении, которые могут препятствовать публикации результатов, и как превращать результаты тестирования в проверяемые исправления, а не ограничиваться отчётами компаний.