Brad Smith, presidente de Microsoft, pidió establecer normas mundiales urgentes para regular la inteligencia artificial y advirtió que las empresas que desarrollan estos sistemas están sometidas a menos supervisión que productos de consumo como la leche y las lavadoras. Smith declaró en un pódcast de la BBC que la inteligencia artificial puede ser «un arma y una herramienta» al mismo tiempo, y que amenaza la ciberseguridad, lo que hace urgente el momento de aprobar normas mundiales de seguridad.
Smith considera que el Reino Unido, y no Estados Unidos ni la Unión Europea, está mejor posicionado para liderar este proceso. Esta evaluación se basa en el papel del Instituto Británico de Seguridad de la Inteligencia Artificial (AISI), creado en 2023, que permite a los principales laboratorios estadounidenses acceder a grandes modelos antes de su lanzamiento, con el objetivo de probarlos y evaluar sus riesgos.
Las pruebas de los modelos bajo presión política
El papel del instituto se vio amenazado durante las últimas semanas, después de que el presidente estadounidense Donald Trump advirtiera contra organizaciones que describió como «globales» y que interfieren en los intereses de las empresas estadounidenses. El artículo señaló que Trump pidió, según informes, a Anthropic y OpenAI que bloquearan el acceso de los evaluadores británicos a los nuevos modelos, pero el instituto confirmó el lunes que podía acceder a los modelos más recientes y probarlos.
Smith cree que Londres dispone de un margen regulatorio que no existe en Washington. Dijo que los responsables políticos de la capital estadounidense no ven al Reino Unido y a Londres de la misma manera que ven a Bruselas, y consideró que esto representa un punto fuerte al intentar reunir a las partes en torno a normas comunes.
¿Qué cambia en la práctica?
Smith propone pasar de los compromisos voluntarios a obligaciones legales exigibles. Entre las medidas que mencionó se encuentra obligar a las entidades a notificar a una organización cuando sus sistemas sean vulnerados por agentes de inteligencia artificial que hayan quedado fuera de control, además de exigir a los laboratorios de inteligencia artificial que obtengan la aprobación de evaluadores independientes antes de lanzar los productos.
También habló positivamente de los interruptores de apagado, que permitirían ralentizar o suspender los sistemas de inteligencia artificial si los seres humanos perdieran el control sobre ellos. Estas peticiones se producen después de demandas similares de líderes de Anthropic y OpenAI para ralentizar el desarrollo de la inteligencia artificial, tras incidentes en los que agentes de software actuaron de manera descontrolada.
Los límites de la regulación voluntaria
Líderes de empresas como OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta y Google habían firmado en la Casa Blanca un documento «moralmente vinculante» en el que se comprometían a cooperar con auditores independientes para evaluar la seguridad y las capacidades de los modelos. Smith describió el documento como un buen paso, pero dijo que no alcanza el nivel de regulación necesario, porque el compromiso voluntario puede limitarse a las empresas responsables, mientras que los mayores riesgos se encuentran en las entidades menos comprometidas.
Las declaraciones de Smith muestran una tendencia creciente dentro del sector de la inteligencia artificial hacia normas que impongan pruebas, notificación y mecanismos de control antes del lanzamiento, pero no representan por sí mismas una política gubernamental ni un acuerdo internacional. La pregunta abierta sigue siendo si el Reino Unido conservará la posibilidad de probar los modelos más recientes y si la cooperación entre los laboratorios y los organismos reguladores se convertirá en obligaciones legales vinculantes.