Suivez les dernières actualités, explications et histoires technologiques associées.
La CISA, la NSA et le FBI ont déclaré que six entreprises chinoises d’intelligence artificielle avaient mené de vastes opérations visant à extraire les résultats de modèles américains avancés au moyen de milliards de tokens et de millions de requêtes depuis la fin de 2024. Les agences recommandent d’améliorer la surveillance des abus des interfaces de programmation et de partager entre entreprises les indicateurs de ces campagnes.
Abliteration.ai donne accès à des versions modifiées de modèles à poids ouverts après suppression de leurs mécanismes de refus, au nom de la possibilité pour les équipes de cybersécurité de simuler le comportement des attaquants. Mais le service ouvre simultanément la voie à un usage plus large de ces modèles pour des activités malveillantes, en l’absence de mécanisme de vérification de l’identité des clients et alors que les contrôles de responsabilité restent incomplets.