Los debates sobre el futuro de la inteligencia artificial se encaminan hacia una tercera opción entre acelerar sin restricciones el desarrollo de los modelos y los llamamientos a ralentizar el progreso: lograr un equilibrio claro entre innovación y seguridad. Estos llamamientos surgieron después de que responsables e investigadores de empresas de inteligencia artificial advirtieran sobre la posibilidad de que la velocidad de desarrollo de los sistemas supere la capacidad de las partes implicadas para comprenderlos y controlarlos.
Dario Amodei, director ejecutivo de Anthropic, había advertido que los nuevos sistemas podrían desarrollarse a una velocidad superior a la capacidad de la sociedad para asimilarlos y controlarlos. Elon Musk respaldó esta advertencia con una breve frase en la plataforma X, mientras que Sam Altman, director ejecutivo de OpenAI, dijo que estaba de acuerdo con la propuesta y señaló que su empresa adoptaría el mismo enfoque en lo relativo a la evaluación independiente. El artículo también citó al investigador Jacob Coxon, que anteriormente trabajó en Anthropic y OpenAI, quien expresó preocupaciones similares sobre la velocidad del progreso.
Entre la velocidad de los modelos y la preparación de la sociedad
Zafer Küçükşabanoğlu, presidente de la Asociación de Políticas de Inteligencia Artificial (AIPA), afirmó que las advertencias procedentes de quienes trabajan dentro de las empresas desarrolladoras merecen ser tomadas en serio, pero rechazó considerar la suspensión del desarrollo como una solución. Según su perspectiva, la intensa competencia entre las empresas de inteligencia artificial ha aumentado el ritmo del progreso, mientras que las políticas públicas, las leyes, los sistemas educativos, el mercado laboral y la estructura social no avanzan al mismo ritmo.
Küçükşabanoğlu considera que el aumento de la brecha entre la velocidad de la tecnología y el nivel de preparación de los Estados y las sociedades podría provocar efectos que trasciendan a las propias empresas. Las grandes empresas no solo poseen capacidades económicas, sino que también reúnen datos, tecnologías, conocimientos especializados y recursos humanos, lo que podría influir en el futuro en los equilibrios de poder mundiales. Por ello, pidió situar a los Estados en el centro de la coordinación, rechazando tanto el desarrollo descontrolado como una regulación tan estricta que llegue a paralizar la innovación.
¿Qué cambia en la práctica?
La propuesta presentada en el artículo no pide una fecha concreta para detener el desarrollo de los modelos ni ofrece un marco regulatorio detallado. Sin embargo, define una serie de equilibrios que, según sus defensores, deben gestionarse: velocidad frente a seguridad, innovación frente a regulación, competencia frente a cooperación y progreso tecnológico frente a preparación de la sociedad.
Küçükşabanoğlu también pidió a las empresas que cooperen entre sí y con los gobiernos en cuestiones de seguridad, ética y estándares, manteniendo la responsabilidad de establecer las reglas del juego, los límites de seguridad y el interés público dentro de un marco dirigido por los Estados.
La necesidad de un diálogo más amplio
Por su parte, la Dra. Emel Sokullu, del Instituto de Investigación de Ciencias de la Salud y Tecnologías de la Universidad Medipol, afirmó que los principios éticos deben formar parte del progreso tecnológico, y no ser objeto de un debate posterior. Advirtió que la velocidad del desarrollo podría llevar en ocasiones a pasar por alto debates profundos sobre los aspectos éticos, sociales y de gobernanza.
Sokullu pidió crear plataformas comunes y mecanismos sólidos de diálogo que incluyan a científicos, desarrolladores tecnológicos, responsables de la toma de decisiones y la sociedad, con una participación activa de las organizaciones de la sociedad civil. La importancia de esta propuesta radica en trasladar el debate de la pregunta «¿Quién es más rápido?» a una cuestión más amplia sobre cómo desarrollar la inteligencia artificial dentro de límites que puedan comprenderse, revisarse y someterse a la rendición de cuentas de las partes implicadas. Los detalles de estos límites y los mecanismos para aplicarlos siguen sin estar definidos en el artículo, y las entrevistas tampoco presentan un calendario ni compromisos prácticos por parte de las empresas o los gobiernos.