Ведущие компании в области искусственного интеллекта, такие как OpenAI, Claude и Gemini, столкнулись с новой угрозой безопасности, выходящей за рамки простой защиты данных. Недавний отчет показал возможность использования передовых моделей для создания конкурирующих аналогов с очень низкими затратами путем кражи их «логики мышления».
Механизм атаки: что такое «контрабанда сжатия» (Compaction Smuggling)?
Передовые модели искусственного интеллекта (Frontier AI) полагаются на интерфейсы прикладного программирования (API), которые позволяют разработчикам взаимодействовать с движками ИИ. Чтобы поддерживать непрерывность контекста без потребления огромных ресурсов, эти модели используют процесс, называемый «сжатием контекста» (Context Compaction), при котором история чата, вызовы инструментов и состояние рабочего пространства сводятся в сжатое резюме перед тем, как будет превышено доступное окно контекста.
Исследователь под псевдонимом «Xint» обнаружил уязвимость, которую он назвал Compaction Smuggling. Она позволяет злоумышленникам манипулировать этим процессом в три основных этапа:
- Во-первых: получение цепочек рассуждений (Reasoning Traces) путем постановки задачи передовым моделям (например, gpt-5.6-sol).
- Во-вторых: направление или формирование процесса сжатия (Compaction) таким образом, чтобы он включал конфиденциальную информацию.
- В-третьих: отправка результата другой, менее мощной модели ИИ (например, gpt-4.1 или gpt-4o) с запросом извлечь входные данные в исходном виде, что менее мощные модели делают без труда.
Эта атака обходит предыдущие попытки OpenAI, направленные на предотвращение воспроизведения цепочек рассуждений в различных моделях, поскольку данный метод успешен благодаря тому, что процесс сжатия происходит внутри той же самой модели, которая изначально сгенерировала рассуждение.
Почему эта новость представляет собой стратегическую угрозу?
Реальная опасность заключается в процессе, известном как «дистилляция» (Distillation). В ходе этого процесса секреты мышления и логики, извлеченные из передовых и дорогостоящих моделей, используются для обучения новых, менее затратных моделей. Это дает конкурентам возможности ИИ высокого уровня без необходимости огромных инвестиций в базовые процессы обучения.
Это не просто техническая угроза, а экономическая и геополитическая: глубокое знание того, как «думают» ведущие модели, дает компаниям возможность быстро имитировать их способности с минимальными ресурсами.
Контекст глобальной технической конкуренции
Эта уязвимость была обнаружена в то время, когда Агентство по кибербезопасности и защите инфраструктуры США (CISA) предупредило об организованных кампаниях по извлечению данных. Агентство отметило, что китайские компании, такие как DeepSeek, Alibaba, Moonshot AI и MiniMax, извлекли миллиарды токенов (Tokens) из ведущих американских моделей, таких как Claude, GPT и Gemini, начиная с конца 2024 года.
В отчетах подчеркивается, что компания DeepSeek, в частности, проводила организованные кампании с 2024 года, нацеленные на возможности рассуждения и специализированные улучшения для обучения своих моделей R1 и V3, что вызывает вопросы о том, насколько эти китайские инновации опираются на технологии, «дистиллированные» с Запада.
Со своей стороны, OpenAI подтвердила устранение уязвимости «Compaction Smuggling» и выплатила исследователю Xint вознаграждение в размере 6000 долларов за его открытие, сделанное 23 октября 2026 года.