Турецкая компания ShadowX представляет платформу для обеспечения безопасности корпоративного искусственного интеллекта, ориентированную на контроль того, как сотрудники, разработчики и агенты используют инструменты ИИ. Платформа объединяет обнаружение конфиденциальных данных, мониторинг так называемого «теневого ИИ», защиту моделей и защиту агентных систем ИИ в рамках одного уровня.
Компания ShadowX основана в 2024 году Nedim Kaya и Erdinç Balcı. В её команде 11 человек, значительная часть которых занимается разработкой продуктов, искусственным интеллектом, кибербезопасностью и программной инженерией. Примерно за два года разработки компания создала базовую инфраструктуру платформы внутри организации, сохранив возможность интеграции больших языковых моделей и технологий с открытым исходным кодом в соответствии с потребностями клиентов.
Защита данных до их поступления в модель
Компонент FilterX позволяет в реальном времени проверять тексты, файлы и изображения, которые сотрудники отправляют моделям искусственного интеллекта. Он может обнаруживать и скрывать конфиденциальную информацию или переформулировать входные данные перед их передачей, используя правила регулярных выражений, обработку естественного языка и локальные языковые модели. Поддерживаются файлы PDF, Word, Excel, презентации и изображения.
Компания заявляет, что FilterX выявляет конфиденциальные данные до их передачи и позволяет сравнить исходные входные данные с отредактированной версией. VisionX объединяет расширения браузера, каналы ИИ и оповещения конечных точек в одном интерфейсе для отслеживания использования этих инструментов внутри организации.
От защиты моделей к обеспечению безопасности агентов
Компонент Model Defense ориентирован на обнаружение таких атак, как внедрение команд (prompt injection) и попытки обхода ограничений (jailbreak), до их поступления в модель, а также сценариев извлечения данных о конфиденциальности и злоупотреблений. RedX тестирует системы ИИ с помощью реальных сценариев атак, тогда как SOC-AI предназначен для анализа событий центров операций безопасности и автоматизации некоторых повторяющихся задач первичного анализа.
ShadowX уделяет особое внимание безопасности агентов, способных отправлять электронную почту, получать доступ к файлам, писать программный код или выполнять операции через интерфейсы прикладного программирования. Компонент AI Agents позволяет ограничивать действия, которые агенты могут выполнять, в соответствии с установленными политиками, тогда как MCP Monitoring отслеживает подключения агентов и инструментов к внешним серверам MCP.
Что меняется на практике?
Значение платформы заключается в том, что она переводит защиту ИИ от одного лишь мониторинга переписки сотрудников к контролю более широкого цикла взаимодействия, включающего данные, модели, агентов и подключённые к ним инструменты. Возможность работы внутри инфраструктуры организации даёт финансовым учреждениям и государственным органам способ обрабатывать конфиденциальные данные без их отправки в облачные сервисы третьих сторон, однако эффективность средств контроля безопасности и результаты фактического использования всё ещё требуют независимой оценки.
В настоящее время ShadowX используется в Турции, особенно в банковском, государственном и технологическом секторах, а также проводит проекты по подтверждению концепции и продажи клиентам разного масштаба. У компании также есть клиент в Великобритании. ShadowX поддерживает локальные, облачные и гибридные модели развертывания, а её доходы зависят от годовых подписок, различающихся в зависимости от модулей, количества пользователей и модели развертывания.
Компания намерена расширить клиентскую базу и сеть партнёров в Европе, на Ближнем Востоке и в Африке, прежде чем выходить на рынки США и Азиатско-Тихоокеанского региона. В долгосрочной перспективе ShadowX хочет стать платформой, обеспечивающей безопасность всех взаимодействий между людьми и системами искусственного интеллекта, а не только инструментов сотрудников.