Garry Tan, director ejecutivo de Y Combinator, considera que Estados Unidos podría necesitar permitir que laboratorios de inteligencia artificial más pequeños destilen conocimientos de modelos estadounidenses avanzados, con el objetivo de construir un conjunto más sólido de modelos de pesos abiertos que no dependan de laboratorios chinos. Esta postura surge en un momento en que Anthropic acusa a laboratorios chinos de llevar a cabo ataques ilícitos de destilación contra modelos avanzados.
En una entrevista con CNBC, Tan dijo que no intervendría mediante regulación en el uso de técnicas de destilación por parte de laboratorios chinos, sino que planteó la posibilidad de crear un «sistema estadounidense de destilación». Explicó a TechCrunch que se trataría de permitir el uso de estas técnicas a laboratorios estadounidenses que desarrollen modelos de pesos abiertos, dándoles acceso a los modelos objetivo «por la puerta principal» y bajo condiciones de acceso claras, no mediante suplantación de identidad, fraude o robo de credenciales.
¿Qué significa la destilación de modelos?
La destilación de modelos consiste en entrenar un modelo nuevo aprovechando las salidas de otro modelo, normalmente mediante el envío de un gran número de solicitudes y el análisis de sus respuestas y de su método de razonamiento. Los laboratorios de inteligencia artificial utilizan esta técnica legítimamente en algunos escenarios de entrenamiento y mejora de modelos, pero los límites de su uso se vuelven objeto de disputa cuando se accede al modelo objetivo sin autorización o se oculta la identidad de la entidad que lo utiliza.
Según el artículo, Anthropic publicó esta semana su segundo informe, en el que acusa a laboratorios chinos de llevar a cabo «ataques ilícitos de destilación». La empresa afirma que esas operaciones incluyeron ocultar la identidad y recurrir al fraude y a credenciales robadas para acceder a los modelos. Dario Amodei, director ejecutivo de Anthropic, ya había instado públicamente a los reguladores estadounidenses a adoptar medidas más estrictas contra este tipo de destilación.
¿Por qué Tan plantea una postura diferente?
El argumento de Tan no se limita a la competencia entre Estados Unidos y China. Considera que los laboratorios de inteligencia artificial no deberían tener una autoridad amplia para controlar lo que hacen los clientes con la información que obtienen a través de interfaces de programación de aplicaciones. Desde su punto de vista, imponer restricciones severas al uso de las salidas de modelos cerrados podría limitar la capacidad de investigadores y desarrolladores para construir alternativas abiertas.
Tan también relaciona esta postura con la historia del entrenamiento de los propios modelos comerciales. Señala que los laboratorios de modelos cerrados recopilaron grandes cantidades de conocimiento humano disponible ampliamente para entrenar sus sistemas, incluidos materiales protegidos por derechos de autor, sin obtener siempre el permiso de los titulares de los derechos de propiedad intelectual. Por ello, sostiene que el acceso a una inteligencia entrenada con grandes cantidades de datos públicos debería considerarse más cercano a un bien público y no quedar completamente sujeto a unas condiciones de servicio impuestas por empresas privadas.
¿Qué cambiaría en la práctica?
Si esta idea se convirtiera en política, la disputa giraría en torno a las condiciones de acceso, los límites de uso y la prueba del consentimiento del modelo objetivo, no en torno a la autorización de cualquier tipo de copia de modelos. La distinción que Tan establece entre la destilación autorizada y la destilación basada en el robo de credenciales es importante: no defiende las operaciones que Anthropic atribuye a los laboratorios chinos, sino conceder a laboratorios estadounidenses más pequeños una oportunidad legal de utilizar las salidas de modelos avanzados.
Para los desarrolladores de modelos de pesos abiertos, este enfoque podría reducir la brecha de recursos entre ellos y los laboratorios que disponen del capital, los investigadores y la infraestructura necesarios para desarrollar modelos Frontier desde cero. En cambio, los laboratorios comerciales avanzados podrían verlo como una amenaza para el valor de sus modelos cerrados y para su capacidad de controlar el uso de sus interfaces y salidas.
Opinión frente a hechos
Tan presenta su postura como una forma de preservar el pluralismo en el mercado de la inteligencia artificial. Advierte sobre un escenario en el que una sola empresa, con el mejor acceso al capital y a los mejores investigadores, posea el modelo más potente y sea la única puerta de acceso a capacidades avanzadas. Considera que los modelos de pesos abiertos ofrecen a los usuarios mayor libertad y acceso, mientras que los laboratorios avanzados garantizan la continuidad de la inversión en el desarrollo de nuevas capacidades.
Sin embargo, el artículo no ofrece pruebas de que exista un acuerdo regulatorio estadounidense sobre un «sistema de destilación» de este tipo, ni resuelve las cuestiones relativas a los derechos de propiedad intelectual, las condiciones contractuales o el método para verificar el uso autorizado. Por tanto, la propuesta de Tan sigue siendo una postura política e intelectual dentro de un debate en el que confluyen la seguridad económica, los derechos de las empresas, los intereses de los investigadores y los riesgos del uso indebido de los modelos, y no un anuncio de una política vigente.