Кибербезопасность

Уязвимость в Hugging Face позволяет перехватывать модели искусственного интеллекта и подделывать их выводы

Исследователи безопасности обнаружили уязвимость на платформе Hugging Face, которая позволяет перехватывать аккаунты разработчиков моделей путем получения контроля над их доменами, что открывает путь для атак на цепочку поставок за счет изменения весов моделей без их обнаружения.

2026-11-17
2 мин. чтения
14 просмотров
certi.news Editorial Team
Уязвимость в Hugging Face позволяет перехватывать модели искусственного интеллекта и подделывать их выводы

Команда исследователей безопасности успешно продемонстрировала серьезную уязвимость безопасности на платформе Hugging Face, которая позволяет злоумышленникам получить полный контроль над учетными записями разработчиков моделей искусственного интеллекта. Эта уязвимость была проиллюстрирована на примере перехвата учетной записи модели Kokoro, популярной модели преобразования текста в речь (Text-to-Speech), которая пользуется широким спросом и используется в крупных технических проектах такими компаниями, как Google, NVIDIA, AMD, Intel и Amazon Web Services.

Как произошел перехват?

Исследователи под руководством Алона Херца воспользовались отсутствием строгих механизмов проверки владения учетными записями на платформе. Команда зарегистрировала доменное имя, которое было указано в файле пожертвований проекта Kokoro, а затем использовала этот домен для сброса пароля учетной записи разработчика на Hugging Face, что предоставило им полный доступ к аккаунту.

Что это значит для пользователей?

Исследователи пояснили, что реальная опасность заключается не только в краже аккаунта, но и в возможности проведения атак на цепочку поставок (Supply-Chain Attacks). Вместо того чтобы внедрять традиционное вредоносное ПО, которое может быть обнаружено антивирусными программами, исследователи изменили «веса» (Weights) нейронной сети самой модели. Это изменение заставляет модель выдавать результаты синтеза речи, отличающиеся от введенного текста, при этом программный код и инфраструктура модели остаются абсолютно неизменными. Это делает атаку невидимой для традиционных систем сканирования.

Почему эта новость важна?

Этот взлом проливает свет на более широкую проблему доверия в экосистеме моделей с открытым исходным кодом. Платформа Hugging Face в настоящее время не проверяет личность издателей моделей и не отслеживает, находится ли аккаунт под управлением его первоначального владельца. Поскольку многие производственные системы зависят от автоматических обновлений моделей, любое вредоносное обновление, отправленное с взломанного аккаунта, мгновенно попадет в тысячи систем, использующих эту модель, не вызвав никаких подозрений у существующих средств безопасности.

Исследователи подчеркивают, что модель Kokoro была лишь ярким примером, и любая учетная запись на платформе может быть уязвима к аналогичному сценарию, при котором злоумышленники могут долго выжидать перед отправкой вредоносного обновления модели, что делает обнаружение таких атак крайне сложным в реальных рабочих условиях.

Источник новости
c
Автор

certi.news Editorial Team

В той же категории

Вам также может понравиться

Все новости