Pluto Security, стартап, специализирующийся на безопасности использования искусственного интеллекта в организациях, привлекла финансирование в размере 42 миллионов долларов после выхода из режима скрытой разработки. Это произошло на фоне растущей обеспокоенности компаний инструментами и приложениями, которые сотрудники создают или используют без достаточной проверки безопасности.
По словам Shahar Bahat, генерального директора и соучредителя компании, новый инструмент искусственного интеллекта может появиться в корпоративной среде всего через два часа после его запуска. Согласно данным Pluto, около 60% рисков, выявляемых у её клиентов, связаны с инструментами, созданными неразработчиками с использованием так называемого «vibe coding». На первом месте находятся финансовые отделы, за ними следуют маркетинг и юридические подразделения, а разработчики занимают четвёртое место.
Риски приложений и агентов без проверки
Инструменты Pluto обнаружили приложение, созданное сотрудником финансового отдела компании из списка Fortune 500 для управления данными о клиентах и показателями их оттока, однако оно оказалось открыто в интернете. Bahat утверждает, что в проведённых компанией тестах на подтверждение концепции не обошлось без вредоносных элементов, включая пакеты расширений и навыки, содержавшие активные атаки во время тестирования.
Pluto рассчитывает на то, что одних традиционных инструментов безопасности недостаточно для мониторинга среды, в которой способы создания и использования приложений быстро меняются. Вместо того чтобы сосредотачиваться только на поведении пользователя, компания хочет отслеживать поведение агентов и выполняемые ими процессы в режиме реального времени.
Мониторинг инструментов и вмешательство во время выполнения
Программа Pluto отслеживает инструменты искусственного интеллекта, используемые сотрудниками, а также связанные с ними навыки, расширения, MCP-серверы и другие компоненты, равно как и создаваемые ими приложения и агенты. Компания утверждает, что система способна выявлять опасные компоненты, обнаруживать подозрительную активность агентов и применять политики безопасности, не полностью запрещая сотрудникам использовать или разрабатывать инструменты.
Система подключается к платформам защиты и управления устройствами и может устанавливать сенсоры непосредственно на устройства или через эти платформы. Она также собирает данные, включая запросы, команды, выполняющиеся процессы, разрешения и журнал предыдущей активности, а для оценки того, что агент пытается выполнить, использует облегчённые модели на конечных устройствах.
Одной из ключевых заявленных возможностей является вмешательство во время работы агента. Например, если он пытается получить разрешения, выходящие за рамки намерений пользователя, система может остановить действие или добавить в сессию инструкции с требованием получить подтверждение от агента.
Финансирование и коммерческий рост
Финансирование распределено между посевным раундом на 8,5 миллиона долларов под руководством TLV Partners при участии основателей компании по кибербезопасности Armis и раундом Series A на 34 миллиона долларов под руководством Jump Capital при участии Skinos, венчурной компании партнёра и соучредителя Check Point Shlomo Kramer, а также других бизнес-ангелов.
Pluto начала продавать свои продукты в апреле и утверждает, что превысила отметку в 2 миллиона долларов годовой регулярной выручки, имея более 30 корпоративных клиентов, среди которых Oscar Health, Workato, Sixt и AlphaSense. В компании работают 40 сотрудников в США и Израиле. Она намерена использовать финансирование для развития продукта, расширения исследований в области безопасности и укрепления своего присутствия в США.
Почему это важно?
Фактическое изменение здесь заключается в переносе точки контроля безопасности с учётных записей сотрудников и их традиционных приложений на инструменты, агентов и компоненты, которые могут действовать от их имени. Однако приведённые цифры основаны на заявлениях компании, а источник не приводит независимых подробностей о методологии измерения рисков или результатах клиентов и не уточняет границы вмешательства системы либо долю ложных срабатываний. Поэтому способность этой категории решений обеспечить баланс между контролем и предоставлением сотрудникам свободы использовать искусственный интеллект остаётся открытым вопросом.