Un informe de investigación elaborado con la participación de más de 20 investigadores y especialistas advierte de la posibilidad de que la inteligencia artificial entre en una etapa conocida como «explosión de la inteligencia», si los sistemas logran automatizar la investigación y el desarrollo y mejorar sus capacidades de forma repetida con un grado limitado de intervención humana. Este escenario podría condensar años de progreso tecnológico en unos pocos meses o menos.
El informe lleva por título «¿Y si la automatización de la investigación y el desarrollo en inteligencia artificial provocara una explosión de la inteligencia?», y en su elaboración participan el informático canadiense Yoshua Bengio, el premio Nobel Geoffrey Hinton, Jack Clark, cofundador de Anthropic, y Jakub Pachocki, científico jefe de OpenAI.
¿Cómo podría comenzar la aceleración?
Los investigadores se centran en el concepto de «mejora iterativa de sí mismos», es decir, la capacidad de los sistemas de inteligencia artificial para contribuir al desarrollo de nuevos sistemas y mejorar sus capacidades sin intervención humana directa en cada etapa. El informe considera que la automatización de la investigación y el desarrollo en inteligencia artificial es la vía más probable para que se produzca esta aceleración, porque los sistemas actuales ya se utilizan para ayudar a desarrollar tecnologías de inteligencia artificial y las versiones mejoradas también pueden desplegarse rápidamente.
Si los sistemas alcanzaran el nivel de los expertos en investigación y desarrollo, un solo desarrollador podría operar una fuerza de investigación equivalente a «millones» de investigadores humanos especializados, según el informe. Sin embargo, el resultado potencial no sería únicamente un aumento de la productividad; la velocidad del desarrollo podría superar la capacidad de los gobiernos, las empresas y las instituciones para adaptar los mecanismos de supervisión y distribuir el poder.
¿Por qué es importante esta noticia?
La importancia de la advertencia radica en que el debate no se limita a un nuevo modelo o a una capacidad comercial concreta, sino que aborda la posibilidad de que cambie el propio ciclo de desarrollo de la inteligencia artificial. Si se cumpliera el escenario, la brecha entre el descubrimiento de una nueva capacidad y el establecimiento de controles para ella podría ser mucho más corta que los plazos regulatorios habituales.
El informe señala posibles beneficios, entre ellos la aceleración de los descubrimientos médicos y del progreso tecnológico. Pero, por otro lado, advierte del uso de sistemas extremadamente potentes para desarrollar amenazas biológicas o cibernéticas a un ritmo superior a la capacidad humana de idear medios de respuesta. Asimismo, los Estados podrían aprovechar una ventaja rápida en inteligencia artificial para transformar una ventaja limitada en ámbitos como el ciberespacio en una superioridad decisiva.
Medidas propuestas antes de que sea demasiado tarde
Los autores del informe instan a los gobiernos a actuar antes de que comience cualquier posible explosión, porque la ventana de intervención podría estrecharse una vez iniciado el proceso. Las propuestas incluyen:
- Obligar a las empresas de inteligencia artificial a presentar informes transparentes sobre la evolución de sus investigaciones.
- Permitir que auditores independientes supervisen los procesos de investigación y desarrollo dentro de las empresas.
- Establecer límites a la velocidad de evolución de los sistemas.
- Cooperar con los centros de datos para permitir detener algunos proyectos de investigación y desarrollo cuando sea necesario.
- Aislar los sistemas automatizados de investigación y desarrollo de las vías que podrían sacarlos del ámbito del control humano.
- Preparar planes de respuesta ante emergencias para distintos escenarios.
2028 como estimación temporal, no como fecha confirmada
El informe señala que los proyectos de investigación y desarrollo que requieren meses de trabajo humano podrían automatizarse por completo para 2028. Sin embargo, aclara que las actuales ganancias de productividad aún no han alcanzado el nivel necesario para desencadenar una «explosión de la inteligencia», aunque los sistemas más recientes se acercan a ese umbral.
Lectura editorial: El informe no ofrece una fecha confirmada para que se produzca este escenario y reconoce que las cadenas de suministro, los materiales especializados y las autorizaciones regulatorias podrían ralentizar el desarrollo. Por ello, el valor práctico de la advertencia consiste en impulsar a los responsables de la toma de decisiones a probar mecanismos de transparencia, interrupción y respuesta antes de que la propia velocidad del desarrollo se convierta en un obstáculo para la supervisión, y no en considerar 2028 un punto de inflexión confirmado.