Google y Google DeepMind lanzaron el 17 de septiembre de 2026 el «DeepMind Institute», con el objetivo de ampliar el debate sobre la inteligencia artificial general (AGI) y destacar las diferencias entre las posiciones de Google, Google DeepMind y los investigadores de todo el mundo. El instituto está dirigido por Shane Legg, cofundador de DeepMind, junto con James Manyika, ejecutivo de Google, y Demis Hassabis, responsable de Google DeepMind, mientras que Legg también desempeña el cargo de editor gerente.
El instituto se presenta como un espacio para mostrar puntos de vista que no siempre coinciden y que pueden cambiar a medida que aparecen nuevos datos e información en un ámbito que evoluciona rápidamente. Esta iniciativa llega en un momento en que el debate sobre la seguridad de la inteligencia artificial pasa de las declaraciones generales a propuestas más concretas relacionadas con la divulgación, las auditorías externas y la ralentización del desarrollo de modelos avanzados si no cuentan con las salvaguardas adecuadas.
Cuatro perspectivas para el debate
La colección inaugural del instituto incluye cuatro artículos que abordan las políticas para afrontar las posibles perturbaciones económicas que podría causar la inteligencia artificial general, la preservación de la comprensibilidad del razonamiento de los modelos para los seres humanos, los principios para apoyar la prosperidad humana y un marco para evaluar los principales modelos de inteligencia artificial.
En uno de los artículos, los investigadores de seguridad de DeepMind Rohin Shah y Anca Dragan advierten de que la reducción de la capacidad de los investigadores para observar y verificar los pasos del razonamiento de un modelo no es inevitable. A medida que evolucionan arquitecturas que hacen que los modelos más potentes sean más difíciles de supervisar, ambos investigadores instan a los desarrolladores y a los organismos reguladores a abordar directamente las compensaciones relacionadas con la seguridad.
Entre las opciones que plantean figuran limitar la «profundidad serial opaca» (opaque serial depth), es decir, la cantidad de cálculo secuencial que el modelo puede ejecutar sin producir una cadena de razonamiento legible, o exigir a los desarrolladores que demuestren que los sistemas menos transparentes siguen siendo supervisables al mismo nivel.
Un marco estadounidense para evaluar modelos
En otro artículo, Hassabis propone crear un organismo de estándares para la inteligencia artificial avanzada, dirigido por Estados Unidos, que evalúe los modelos más avanzados. Según la propuesta, los desarrolladores presentarían voluntariamente sus modelos para su revisión hasta 30 días antes de su lanzamiento, y superar las pruebas se convertiría posteriormente en un requisito para desplegar los principales modelos dentro de Estados Unidos, si el sistema de evaluación demuestra ser eficaz.
Al principio, el organismo diseñaría las pruebas de evaluación en consulta con las empresas de inteligencia artificial y después pasaría a realizar pruebas independientes no anunciadas previamente, o lo que el marco denomina «pruebas reservadas» (held-out tests), para impedir que los laboratorios optimicen sus modelos basándose en pruebas conocidas de antemano. La propuesta también menciona la posibilidad de endurecer gradualmente las medidas, hasta llegar a una ralentización coordinada entre los desarrolladores de modelos avanzados si la gravedad de la situación lo exigiera.
¿Por qué importa esta noticia?
La importancia práctica de la iniciativa no se limita a la creación de una nueva plataforma de publicación, sino que reside en reunir los debates de Google y Google DeepMind sobre cuestiones que podrían influir en la forma de desarrollar y evaluar los modelos. Los artículos sitúan la transparencia, la supervisabilidad y la auditoría independiente dentro de preguntas operativas, y no solo como principios generales.
No obstante, el instituto no es un organismo regulador independiente, y el marco de evaluación propuesto comienza de forma voluntaria y no se ha convertido en una política vigente. Siguen abiertas cuestiones como la independencia del organismo, la naturaleza de las pruebas no anunciadas y los criterios para determinar la necesidad de ralentizar el desarrollo, dentro de los límites de lo expuesto en el material.