Suivez les dernières actualités, explications et histoires technologiques associées.
Un test mené par White Circle a montré qu’une méthode d’attaque automatisée pouvait contourner les filtres de DALL·E 3, de Nano Banana 2 et de GPT-Image-2 afin de produire des images explicites, tandis que les versions les plus récentes d’OpenAI et de Google semblaient plus faciles à compromettre selon les chercheurs. Ces résultats relancent le débat sur la nécessité de tests de sécurité indépendants et obligatoires pour les modèles d’intelligence artificielle.
Circuit Breaker Labs teste des modèles d’intelligence artificielle au moyen d’agents simulant des utilisateurs d’âges, de cultures et de langues différents, afin de détecter les interactions susceptibles de conduire à un préjudice psychologique. L’entreprise cible actuellement les applications d’entraînement, de journal intime et de soutien psychologique reposant sur l’intelligence artificielle.
Anthropic collabore avec Accenture pour mener des évaluations indépendantes et des tests d’intrusion des modèles avancés d’intelligence artificielle au sein même de l’entreprise, chaque partie prévoyant d’investir au moins un milliard de dollars sur cinq ans. L’initiative révèle un nouveau modèle de supervision, mais manque encore de normes établies concernant l’accès, le financement et l’établissement de rapports.