Chris Lehane, responsable de políticas globales de OpenAI, confirmó que su empresa mantiene desde hace semanas conversaciones con Anthropic y Google DeepMind sobre la seguridad de la inteligencia artificial. La declaración se produjo durante una reunión con periodistas el martes, mientras Lehane se encuentra en Washington para trabajar con legisladores estadounidenses en el tratamiento de los riesgos catastróficos relacionados con la inteligencia artificial.
El anuncio confirma informes anteriores sobre una cooperación no anunciada entre las tres empresas y da al debate una dimensión práctica que va más allá de los llamamientos generales a la seguridad. El artículo no detalló el mecanismo de las conversaciones ni las decisiones a las que llegaron, y la fuente tampoco incluyó comentarios de Anthropic, Google u OpenAI en respuesta a las solicitudes de TechCrunch.
Del llamamiento a la cooperación institucional
Las conversaciones se producen después de un artículo publicado por Dario Amodei, director ejecutivo de Anthropic, en el que instó al sector de la inteligencia artificial a trabajar conjuntamente para ralentizar el ritmo de desarrollo de modelos avanzados de inteligencia artificial y evitar riesgos catastróficos. El llamamiento recibió el respaldo de figuras destacadas, entre ellas Sam Altman, de OpenAI; Demis Hassabis, de Google; y Elon Musk, de SpaceXAI.
Altman afirmó que OpenAI se uniría a Anthropic para incorporar entidades de evaluación independientes de terceros que supervisaran la seguridad. Otros informes también indicaron que las tres empresas trabajan en la creación de un organismo de normas para el sector, en un paso que, según dijo Altman a sus empleados, podría tener que avanzar sin el apoyo del Gobierno estadounidense.
Hassabis había pedido en julio la creación de un nuevo organismo estadounidense de normas que actuara como entidad supervisora de la inteligencia artificial, con autoridad para examinar los modelos más avanzados y coordinar una ralentización colectiva del desarrollo si los riesgos aumentaban.
La coordinación se enfrenta a la cuestión de la competencia
La cooperación entre los mayores laboratorios de inteligencia artificial no está exenta de complejidad jurídica. Algunas partes, entre ellas Altman, señalaron que la coordinación entre empresas podría plantear riesgos relacionados con las leyes antimonopolio si se considerara un medio para limitar la competencia. Amodei propuso una exención gubernamental limitada que permitiera este tipo de cooperación en cuestiones de seguridad, pero Lehane afirmó que las empresas no necesitan una exención de ese tipo.
¿Qué significa esto en la práctica?
El desarrollo representa un cambio desde exigir a cada empresa que evalúe internamente sus modelos hacia la búsqueda de acuerdos conjuntos que incluyan a partes independientes y normas sectoriales. Si estas conversaciones se convierten en un mecanismo formal, podrían influir en la manera de probar los modelos avanzados antes de su lanzamiento o de ampliar su uso. Sin embargo, la fuente aún no demuestra la existencia de un organismo conjunto ni de un acuerdo vinculante, y tampoco aclara cómo se garantizaría la independencia de los evaluadores o cómo se impediría que las normas de seguridad se utilizaran para restringir la competencia.
En la misma reunión del martes, Lehane anunció el respaldo de OpenAI a una disposición de la ley FRONTIER Act que obliga a los laboratorios avanzados de inteligencia artificial a permitir que «organizaciones de verificación independientes» accedan a sus empresas para asegurarse de que los modelos se desarrollan de forma segura.
Esta tendencia contradice la postura del presidente Trump, quien describió las preocupaciones sobre la seguridad como un engaño y rechazó la necesidad de una regulación más estricta, al considerar que cualquier ralentización podría dar ventaja a China. David Sacks, su asesor de inteligencia artificial, repitió que las preocupaciones sobre los riesgos existenciales de la inteligencia artificial son exageradas. Por ello, el siguiente paso sigue dependiendo de la capacidad de las empresas para convertir la cooperación voluntaria en normas aplicables y de la postura de los legisladores estadounidenses sobre los límites de esta coordinación.