Следите за последними материалами, объяснениями и связанными технологическими историями.
В этом отчете рассматривается ряд глобальных событий в сфере безопасности: от ускорения эксплуатации уязвимостей SAP до сложных мошеннических операций, нацеленных на модели искусственного интеллекта и криптовалютные кошельки.
Отчеты по безопасности выявили рост числа атак похищения больших языковых моделей (LLMjacking), в ходе которых злоумышленники используют украденные API-ключи для выполнения масштабных операций, обходящихся компаниям в огромные суммы.
Компания Respan запустила AI-шлюз с открытым исходным кодом, написанный на языке Rust, отказавшись от своей прежней зависимости от LiteLLM после того, как обновление программного обеспечения вызвало неустранимые сбои.
Исследователи Black Lotus Labs обнаружили скрытую кампанию по майнингу, в рамках которой было скомпрометировано более 3 400 доступных из интернета серверов, включая системы, работающие под управлением LiteLLM и Ollama. Заражённые устройства превратились в платформы для поиска новых целей и проведения атак. Вредоносная программа использует необычный механизм извлечения адресов серверов управления из скрытых слов в стихотворении, размещённом на GitHub.
Nik Kale считает, что безопасность ИИ-агентов должна строиться как цепочка из шести уровней, начиная с инвентаризации агентов и определения их идентичностей и контекста делегирования, а уже затем переходя к применению политик через операционные шлюзы. Он предлагает практическую систему проверки готовности, уделяя особое внимание ограниченным полномочиям, журналам с возможностью атрибуции и комплексному механизму остановки.
Microsoft Threat Intelligence отслеживает три случая взлома, направленных на LiteLLM, RAGFlow и Kestra, и показывает, как злоумышленники могут превращать шлюзы ИИ, платформы поиска и рабочие процессы в центры кражи секретов, выполнения команд и эксплуатации вычислительных ресурсов. Компания делает вывод о необходимости защищать эти компоненты как критически важную инфраструктуру, а не как изолированные приложения.