Suivez les dernières actualités, explications et histoires technologiques associées.
Circuit Breaker Labs teste des modèles d’intelligence artificielle au moyen d’agents simulant des utilisateurs d’âges, de cultures et de langues différents, afin de détecter les interactions susceptibles de conduire à un préjudice psychologique. L’entreprise cible actuellement les applications d’entraînement, de journal intime et de soutien psychologique reposant sur l’intelligence artificielle.
Anthropic collabore avec Accenture pour mener des évaluations indépendantes et des tests d’intrusion des modèles avancés d’intelligence artificielle au sein même de l’entreprise, chaque partie prévoyant d’investir au moins un milliard de dollars sur cinq ans. L’initiative révèle un nouveau modèle de supervision, mais manque encore de normes établies concernant l’accès, le financement et l’établissement de rapports.