Anthropic anunció el 18 de septiembre de 2026 una asociación con Accenture para realizar una evaluación independiente de modelos avanzados de inteligencia artificial, en un paso destinado a incorporar evaluadores independientes dentro de la empresa desarrolladora de modelos, en lugar de limitarse a revisiones externas una vez completados. Faculty, la unidad especializada en inteligencia artificial de Accenture, dirigirá el trabajo conjunto.
El alcance de la asociación incluye la evaluación y las pruebas de los modelos mediante métodos de simulación adversarial, la realización de evaluaciones de alineación y el examen de las medidas de protección. Anthropic afirmó que la experiencia de Accenture en el despliegue de inteligencia artificial en empresas y gobiernos, y en múltiples sectores, aportará una perspectiva práctica a la evaluación de la seguridad y el uso de los modelos.
Ambas partes prevén invertir cada una al menos mil millones de dólares en el desarrollo de capacidades relacionadas con este ámbito durante los próximos cinco años. La empresa no detalló en el anuncio el calendario de gasto ni los mecanismos para medir estas inversiones.
¿Qué significa la evaluación integrada?
Por evaluación integrada se entiende que los evaluadores independientes trabajen dentro de la empresa de inteligencia artificial con un nivel de acceso cercano al de los empleados. Esto les permite seguir los modelos durante el entrenamiento, revisar las decisiones que afectan a su desarrollo y despliegue, y hablar directamente con las personas que trabajan en ellos. Según Anthropic, esta posición puede ayudar a los evaluadores a verificar el cumplimiento de los compromisos de seguridad de la empresa, detectar puntos débiles, informar de incidentes y ofrecer al público una visión mejor informada de los beneficios y riesgos.
Anthropic subraya que la presencia de evaluadores independientes no transfiere la responsabilidad de la seguridad ni reduce su rendición de cuentas; la seguridad de sus modelos sigue siendo su responsabilidad directa. El valor práctico de la iniciativa consiste en hacer que esta responsabilidad sea más verificable mediante un acceso independiente a las etapas de desarrollo y a las decisiones internas.
Brechas aún no resueltas
Hasta ahora no existen estándares acordados que determinen qué información deberían recibir los evaluadores integrados ni la forma en que deben presentar sus resultados. Tampoco existe un sistema estable para financiar la evaluación independiente a largo plazo. Anthropic considera que, en el futuro, la financiación debería proceder de fuentes mancomunadas o gubernamentales, pero en la etapa actual financiará directamente el trabajo de Accenture, debido a la falta de estas alternativas.
La empresa también mantiene conversaciones con METR y otras instituciones sin ánimo de lucro para probar elementos de la evaluación integrada con financiación propia. Asimismo, anunció que la asociación con Accenture no es exclusiva y que colaborará con otros evaluadores que anunciará en las próximas semanas, mientras que Accenture, por su parte, también trabajará con otros desarrolladores de inteligencia artificial.
Análisis de certi.news
La importancia del anuncio radica en que traslada el debate sobre la seguridad de los modelos desde los informes de evaluación independientes hacia la supervisión del propio proceso de desarrollo. Esto podría proporcionar a los evaluadores una mayor capacidad para detectar decisiones y riesgos tempranos, pero, a su vez, plantea preguntas cruciales sobre la independencia del evaluador, los límites de su acceso, el mecanismo de protección de la información y la forma de publicar los resultados. Dado que Anthropic reconoce que no existen estándares ni un modelo de financiación estable, la asociación representa un experimento fundacional importante más que un marco definitivo de gobernanza.