Suivez les dernières actualités, explications et histoires technologiques associées.
Ce rapport passe en revue un ensemble de développements de sécurité mondiaux, allant de l'accélération de l'exploitation des vulnérabilités SAP à des cyberattaques sophistiquées ciblant les modèles d'intelligence artificielle et les portefeuilles de crypto-monnaies.
Des rapports de sécurité ont révélé l'escalade des attaques de piratage de grands modèles de langage (LLMjacking), où des attaquants exploitent des clés API volées pour exécuter des opérations intensives qui coûtent des sommes astronomiques aux entreprises.
Respan a lancé une passerelle d'IA open source construite en Rust, abandonnant sa dépendance précédente à LiteLLM après une mise à jour logicielle ayant causé des pannes irréparables.
Les chercheurs de Black Lotus Labs ont découvert une campagne de minage furtif qui a exploité plus de 3 400 serveurs exposés, dont des systèmes exécutant LiteLLM et Ollama, et transformé les appareils infectés en plateformes destinées à analyser de nouvelles cibles et à mener des attaques. Le logiciel utilise un mécanisme inhabituel pour extraire les adresses des serveurs de commande et de contrôle à partir de mots cachés dans un poème hébergé sur GitHub.
Nik Kale estime que la sécurisation des agents d’intelligence artificielle doit être construite comme une chaîne de six couches, commençant par l’inventaire des agents et la définition de leur identité et du contexte de délégation, avant d’en arriver à l’application des politiques via des passerelles d’exécution. Il propose un cadre pratique pour tester la préparation, en mettant l’accent sur les privilèges limités, les journaux traçables et un mécanisme d’arrêt global.
Microsoft Threat Intelligence recense trois compromissions visant LiteLLM, RAGFlow et Kestra, et montre comment les attaquants peuvent transformer des passerelles d’IA, des plateformes de récupération et des moteurs de workflow en centres de vol de secrets, d’exécution de commandes et d’exploitation des ressources informatiques. L’entreprise conclut qu’il est nécessaire de sécuriser ces composants comme une infrastructure critique, et non comme des applications isolées.