Sigue la cobertura, explicaciones e historias tecnológicas relacionadas.
Circuit Breaker Labs prueba modelos de inteligencia artificial mediante agentes que simulan a usuarios de distintas edades, culturas y lenguas, con el objetivo de detectar interacciones que podrían conducir a daños psicológicos. Actualmente, la empresa se dirige a aplicaciones de formación, diarios y apoyo psicológico basadas en inteligencia artificial.
Anthropic colabora con Accenture para realizar evaluaciones independientes y pruebas de penetración de modelos avanzados de inteligencia artificial desde el interior de la empresa, con una inversión prevista de al menos mil millones de dólares por parte de cada entidad durante cinco años. La iniciativa revela un nuevo modelo de supervisión, pero todavía carece de estándares estables de acceso, financiación y elaboración de informes.