Снятие защитных барьеров с моделей искусственного интеллекта с открытыми весами стало доступно через прямой коммерческий сервис после запуска компанией Abliteration.ai платформы, размещающей модифицированные версии передовых моделей и позволяющей использовать их через браузер или API. Платформа включает версию модели GLM-5.3, недавно выпущенной Z.ai, после удаления её склонности отказываться от выполнения вредоносных запросов.
Сервис основан на технологии, известной как «abliteration», — практике, которая уже несколько лет используется исследователями и разработчиками, работающими с моделями с открытыми весами. На Hugging Face существуют тысячи моделей, модифицированных таким образом, однако Abliteration.ai переносит эту практику из среды, где требуется скачать модель и предоставить необходимую вычислительную инфраструктуру для её запуска, в готовый сервис, снижающий барьеры для пользователей.
Обоснование в сфере безопасности и сопутствующие риски
Компания заявляет, что её цель — обеспечить проведение разрешённых наступательных операций в сфере кибербезопасности, тестирования красных команд и проверки агентов — задач, от выполнения которых другие модели могут отказаться. Логика этого подхода очевидна в сфере защиты: невозможно проверить поведение, которое команда не может воспроизвести, а модель, отказывающаяся создавать эффективный эксплойт-код, может быть менее полезной при имитации реального злоумышленника.
Однако удаление отказов автоматически не отличает специалиста по безопасности от пользователя со злым умыслом. Во время тестирования, проведённого TechCrunch, модифицированная модель отвечала на запросы, связанные с кражей сохранённых в Chrome паролей и получением информации о выращивании опасного человеческого патогена. Этот результат не содержит практического описания запросов, но наглядно показывает, что удалённый барьер не был формальностью.
Стартап и ещё не завершённые меры контроля
Abliteration.ai была основана в конце прошлого года и официально зарегистрирована в марте. Соучредитель Devon сообщил, что компания заключила несколько соглашений с поставщиками облачных услуг и финансирует свою деятельность за счёт выручки от клиентов, не привлекая до сих пор венчурное финансирование, несмотря на переговоры по этому поводу. Источник отказался раскрывать полное имя Devon, поскольку тот всё ещё работает в другой компании.
Платформа предлагает опциональный уровень модерации, через который клиенты могут добавлять нужные им барьеры; сама платформа также содержит некоторые ограниченные ограничения. Devon сообщил, что работает над добавлением мер контроля для предотвращения насилия, однако в настоящее время компания не применяет практики проверки личности клиента (KYC), выходящие за рамки регистрации кредитной карты, использованной для оплаты.
Что меняется на практике?
По словам Devon, среди клиентов компании есть стартапы из Великобритании и Европы, занимающиеся тестированием красных команд и помогающие банкам, авиакомпаниям и другим организациям, связанным с критической инфраструктурой. Он считает, что предоставление защитникам инструментов, сходных с теми, которые могут использовать злоумышленники, способно ускорить тестирование агентов и защитных систем.
Однако с этой оценкой согласны не все. Ahmed Aly, генеральный директор Fabraix, заявил, что его компания в большей степени полагается на тонкую настройку открытых моделей, а снятие барьеров может уменьшить некоторые знания и возможности. Alessio Lomuscio из Safe Intelligence считает, что модифицированные модели могут быть полезны для провоцирования определённых форм поведения во время стресс-тестов, тогда как David Slater из Armadin сообщил, что его компания пока их не использует, продолжая изучать эту технологию.
Открытый вопрос управления
Сервис демонстрирует парадокс, который трудно решить только техническими средствами: доступность неограниченных моделей может помогать защитникам понимать ущерб, но одновременно снижает стоимость доступа к возможностям, которыми можно злоупотребить. Andrew Yoon из организации CivAI предложил обязать правительства поставщиков услуг запускать классификаторы для выявления вредоносной деятельности в областях кибербезопасности и биологического оружия, а также требовать от арендаторов передовых графических процессоров проверять личность клиентов и отказывать в доступе при наличии признаков злоупотребления.
Самая важная информация здесь заключается не в том, что снятие барьеров возможно; это давно известно сообществу, работающему с открытыми моделями. Новым является превращение этой практики в простой в использовании размещённый сервис до того, как будут завершены правила определения ответственности, проверки клиентов и границ оборонительного использования. Его фактическое влияние на проверки безопасности по-прежнему будет предметом споров, особенно с учётом существования таких альтернатив, как тонкая настройка, и вероятности того, что сама процедура может снизить некоторые возможности модели.