Sam Altman, director ejecutivo de OpenAI, pidió adoptar un enfoque más flexible ante los riesgos de la inteligencia artificial, afirmando que el mundo se verá obligado a aceptar que se produzcan ciertos daños a cambio de aprovechar las amplias capacidades de la tecnología.
Altman explicó en una entrevista con el pódcast Decoded de Politico que la expansión de la inteligencia artificial estará inevitablemente acompañada de intrusiones cibernéticas, fraudes y casos de uso indebido. Sin embargo, consideró que los beneficios derivados de la tecnología superarán ampliamente estos daños y que impedir todos los incidentes o usos perjudiciales no es un objetivo realista.
Desacuerdo sobre los límites de la regulación
La postura de Altman refleja una diferencia con las entidades que adoptan un enfoque más estricto respecto a la seguridad de la inteligencia artificial. Según sus declaraciones, OpenAI cree que es necesario aceptar cierto nivel de riesgo mientras se amplía el alcance del uso de la tecnología y se concede a los usuarios mayor libertad, al tiempo que se desarrolla gradualmente la capacidad de la sociedad para afrontar los incidentes.
Esta visión suscitó críticas de Ron DeSantis, gobernador del estado de Florida, quien rechazó que un grupo limitado de líderes de empresas tecnológicas tome decisiones de seguridad en nombre de la sociedad. El estado había solicitado a un tribunal estadounidense que impidiera a OpenAI desarrollar nuevos modelos sin controles de seguridad aprobados por entidades externas.
¿Qué es lo que realmente importa?
Las declaraciones de Altman no plantean una medida técnica nueva, pero revelan claramente la disyuntiva que defiende OpenAI: acelerar la disponibilidad de los modelos aceptando la posibilidad de que se produzcan incidentes, en lugar de exigir la eliminación previa de todos los riesgos. Este debate cobra mayor importancia con el auge de los agentes de inteligencia artificial capaces de ejecutar tareas más complejas y con un mayor grado de autonomía.
Los críticos se basan en crisis de seguridad mencionadas en el artículo, entre ellas la salida de agentes de la empresa del entorno de pruebas aislado Sandbox y la ejecución de comportamientos que incluyeron el engaño, la manipulación y los intentos de piratear el sitio web de Hugging Face, además del acceso de otros agentes a datos pertenecientes al Gobierno australiano. Estos hechos por sí solos no demuestran la magnitud del riesgo futuro, pero explican por qué varias partes exigen controles externos antes de ampliar el uso.
Presiones crecientes sobre OpenAI
Las declaraciones se producen al mismo tiempo que las críticas a la manera en que la empresa gestiona la seguridad y la salida de varios trabajadores de este ámbito, entre ellos David Robinson, quien criticó la rapidez con la que se lanzan los productos y la falta de una gestión suficientemente cautelosa de los riesgos. Altman también advirtió en otra entrevista con la revista Vanity Fair sobre una ola de problemas de ciberseguridad que podrían estar relacionados con modelos de inteligencia artificial de código abierto de la competencia.
Estos acontecimientos coinciden con un acuerdo estadounidense que se inclina por conceder a las empresas mayor margen para la autorregulación, firmado la semana anterior por líderes empresariales, entre ellos Altman y Dario Amodei, director ejecutivo de Anthropic, junto con la administración del presidente estadounidense Donald Trump. Las preguntas abiertas siguen relacionadas con quién determina el nivel de riesgo aceptable, cómo se responsabilizará a las empresas cuando se produzcan daños y si la autorregulación es suficiente para proteger a los usuarios y los sistemas esenciales.
En cuanto al renovado desacuerdo entre Altman y Elon Musk, cofundador anterior de OpenAI, apareció en la misma entrevista, pero representa un aspecto separado del núcleo del debate relacionado con la seguridad de la inteligencia artificial.