El debate político y científico sobre los riesgos de la «inteligencia artificial superinteligente» (ASI) se intensificó tras una sesión celebrada en el Parlamento británico, durante la cual funcionarios e investigadores advirtieron de la posibilidad de que estos sistemas alcancen un nivel de capacidades difícil de controlar para los seres humanos. Des Browne, exministro de Defensa británico, llegó a afirmar que la amenaza potencial podría equipararse al peligro de una guerra nuclear, e incluso superarlo.
En la sesión participó la coalición Control AI, que aboga por establecer normas internacionales para la inteligencia artificial y apoya un proyecto de ley que debate el Parlamento británico para prohibir el desarrollo de la inteligencia artificial superinteligente. Stuart Russell, científico informático de la Universidad de California en Berkeley, advirtió de la posibilidad de una catástrofe a gran escala y de un escenario en el que la humanidad pierda el control de los sistemas de inteligencia artificial de forma irreversible.
Estimaciones divergentes sobre la magnitud del riesgo
Evan Hubinger, responsable de investigación sobre alineación en la empresa Anthropic, generó controversia al afirmar que existe una probabilidad superior al 10% de que esta tecnología provoque la muerte de todos los seres humanos durante la próxima década. Esta cifra no representa un resultado consensuado entre los expertos, sino una estimación atribuida a Hubinger dentro de un debate más amplio sobre los riesgos futuros.
Esto coincidió con la dimisión de Jacob Kocson, de 28 años, de Anthropic, después de haber trabajado anteriormente en OpenAI. Kocson afirmó que ambas empresas no actúan de manera responsable y que están atrapadas en una carrera para ser las primeras en alcanzar la inteligencia artificial superinteligente, aunque expresó su esperanza de que los principales laboratorios estadounidenses puedan coordinarse para ralentizar esta carrera. No existe consenso entre los expertos sobre cuándo aparecerán estas capacidades; algunos hablan de unos pocos años, mientras que otros prevén más de una década.
De la advertencia a las normas internacionales
El diputado laborista Darren Jones pidió un «tratado multilateral para el desarrollo regulado y seguro de la inteligencia superinteligente», y aseguró que el objetivo, según su planteamiento, no es detener la investigación y la innovación, sino dar prioridad a la seguridad a medida que se acelera el desarrollo. El Gobierno británico también expresó su preocupación por el hecho de que Anthropic no haya presentado su modelo más reciente, Mythos 5.1, al Instituto Británico de Seguridad de la Inteligencia Artificial para someterlo a pruebas previas al lanzamiento. La Oficina del Gabinete afirmó que un número limitado de instituciones estadounidenses ha obtenido acceso al modelo, mientras continúa la cooperación entre el instituto y las empresas.
En Estados Unidos, el senador Bernie Sanders instó al Congreso a actuar, basándose en una encuesta que, según afirmó, indica que el 81% de los estadounidenses considera necesario que los políticos adopten medidas sobre la inteligencia artificial. Sanders vincula el debate con el futuro de la economía, el medioambiente, la democracia y la privacidad.
¿Por qué importa esta noticia?
El debate revela una brecha entre los riesgos a largo plazo, cuyas probabilidades son difíciles de verificar, y los riesgos existentes que pueden observarse hoy. Andrew Rogoyevsky advirtió que los sistemas actuales todavía están lejos de la flexibilidad humana y que las tecnologías avanzadas de inteligencia artificial podrían ser costosas o tener una utilidad limitada. David Barber afirmó que el problema práctico podría agravarse cuando los sistemas obtengan acceso sin restricciones a internet y a distintos sistemas, mientras que Sandra Vakhter señaló la desinformación, el impacto ambiental y el empleo como cuestiones reales y urgentes.
Gary Marcus considera que la diferencia decisiva estará entre una inteligencia artificial superinteligente alineada con los intereses humanos y otra que no lo esté, aunque reconoce que el debate actual incluye ruido mediático y una falta de cautela y responsabilidad. Así, la fuente no demuestra que un escenario de extinción humana sea inminente o seguro, pero sí muestra que la disputa sobre el nivel de riesgo ya no es únicamente académica; también está relacionada con la legislación, las pruebas previas al lanzamiento y los límites de acceso de los modelos a los sistemas.