Termes

AI Red Teaming

Suivez les dernières actualités, explications et histoires technologiques associées.

Dernières actualités

CN
Des chercheurs : des failles dans les garde-fous des modèles d’OpenAI et de Google produisent facilement des images nues

Des chercheurs : des failles dans les garde-fous des modèles d’OpenAI et de Google produisent facilement des images nues

Un test mené par White Circle a montré qu’une méthode d’attaque automatisée pouvait contourner les filtres de DALL·E 3, de Nano Banana 2 et de GPT-Image-2 afin de produire des images explicites, tandis que les versions les plus récentes d’OpenAI et de Google semblaient plus faciles à compromettre selon les chercheurs. Ces résultats relancent le débat sur la nécessité de tests de sécurité indépendants et obligatoires pour les modèles d’intelligence artificielle.

CN
Une start-up développe des agents de simulation pour tester les risques psychologiques de l’intelligence artificielle

Une start-up développe des agents de simulation pour tester les risques psychologiques de l’intelligence artificielle

Circuit Breaker Labs teste des modèles d’intelligence artificielle au moyen d’agents simulant des utilisateurs d’âges, de cultures et de langues différents, afin de détecter les interactions susceptibles de conduire à un préjudice psychologique. L’entreprise cible actuellement les applications d’entraînement, de journal intime et de soutien psychologique reposant sur l’intelligence artificielle.

CN
Anthropic et Accenture lancent un partenariat pour évaluer les modèles d’intelligence artificielle au sein de l’entreprise

Anthropic et Accenture lancent un partenariat pour évaluer les modèles d’intelligence artificielle au sein de l’entreprise

Anthropic collabore avec Accenture pour mener des évaluations indépendantes et des tests d’intrusion des modèles avancés d’intelligence artificielle au sein même de l’entreprise, chaque partie prévoyant d’investir au moins un milliard de dollars sur cinq ans. L’initiative révèle un nouveau modèle de supervision, mais manque encore de normes établies concernant l’accès, le financement et l’établissement de rapports.