El rey Carlos instó a los líderes de empresas de inteligencia artificial y a funcionarios gubernamentales a encontrar medios suficientes para controlar esta tecnología «antes de que sea demasiado tarde», durante una cumbre privada que organizó el jueves 17 de septiembre en Dumfries House, en el condado de Ayrshire, Escocia.
En la reunión participaron Jensen Huang, director ejecutivo de Nvidia; dirigentes de OpenAI y Anthropic; el nuevo ministro británico de Inteligencia Artificial, Kanishka Narayan; y el director del servicio británico de inteligencia exterior. También asistió Paolo Benanti, quien asesora al papa sobre inteligencia artificial. OpenAI envió a su directora financiera, Sarah Friar, mientras que Anthropic estuvo representada por su responsable de Asuntos Globales, Tino Cuéllar.
Advertencia sobre los beneficios y los riesgos
El rey afirmó que la inteligencia artificial tiene una gran capacidad para mejorar y salvar vidas, especialmente en la medicina y la ciencia, pero señaló al mismo tiempo que los desarrolladores de estas tecnologías advierten cada vez más de que podrían poseer «capacidades más oscuras» y quizá la capacidad de acabar con vidas.
Carlos vinculó estas preocupaciones con lo que denominó «riesgos existenciales» derivados de que la tecnología caiga en las manos equivocadas y sea utilizada de maneras potencialmente catastróficas. También describió el rápido desarrollo de la inteligencia artificial como «fascinante y profundamente preocupante», e instó a los asistentes a garantizar que la tecnología siga al servicio de las personas, la sociedad y el mundo natural.
Según los informes, el rey permaneció solo unos 20 minutos y después dejó que los participantes continuaran debatiendo entre ellos. Cuéllar afirmó que Anthropic se sentía honrada de participar y agradeció al rey que reuniera a líderes de la industria y voces de sectores de la sociedad para debatir el papel de la inteligencia artificial al servicio del bien común.
¿Por qué es importante esta reunión?
La reunión no representa el anuncio de una nueva política regulatoria ni un acuerdo vinculante, pero muestra que el debate sobre los riesgos de la inteligencia artificial ha pasado a un espacio que reúne a empresas desarrolladoras de modelos, gobiernos, servicios de inteligencia y figuras religiosas y sociales. Esta intersección cobra mayor importancia mientras continúa la disputa sobre si se debe ralentizar el desarrollo de modelos avanzados o proseguirlo a un ritmo más rápido.
La cumbre se celebra días después de la dimisión de un investigador de Anthropic que advirtió públicamente sobre la carrera de las empresas para construir máquinas más inteligentes que los seres humanos, y después de los llamamientos de Sam Altman, Elon Musk y Dario Amodei a ralentizar el desarrollo. En cambio, Jensen Huang y el presidente estadounidense Donald Trump rechazaron estos llamamientos; Trump afirmó que Estados Unidos aventaja a China en inteligencia artificial y que quien gane en este ámbito ganará la competencia más amplia.
Cooperación internacional sin detalles operativos
Carlos también pidió cooperación internacional y consenso sobre cómo orientar la inteligencia artificial hacia beneficios públicos. Sin embargo, la fuente no menciona resultados oficiales de la cumbre, mecanismos de supervisión específicos ni un calendario para convertir este llamamiento en políticas. El debate sobre la soberanía de la inteligencia artificial también continúa, especialmente después de que Anthropic limitara el acceso a sus modelos Fable y Mythos a clientes en Estados Unidos, según el artículo.
Análisis de certi.news: el valor real de la cumbre reside en la ampliación del círculo de partes que debaten la gobernanza de la inteligencia artificial, no en la emisión de una nueva decisión. Refleja un choque claro entre las consideraciones de seguridad, la competencia geopolítica y los intereses de las empresas tecnológicas, mientras la cuestión central sigue abierta: ¿quién determina los límites del control y cómo pueden aplicarse internacionalmente antes de que la velocidad del desarrollo supere la capacidad de respuesta de las instituciones?