Garry Tan, CEO da Y Combinator, acredita que os Estados Unidos talvez precisem permitir que laboratórios menores de inteligência artificial destilem conhecimento de modelos americanos avançados, com o objetivo de construir um conjunto mais forte de modelos de pesos abertos que não dependam de laboratórios chineses. A posição surge em um momento em que a Anthropic acusa laboratórios chineses de realizar ataques ilegais de destilação contra modelos avançados.
Em uma entrevista à CNBC, Tan disse que não interviria regulatoriamente no uso de técnicas de destilação por laboratórios chineses, mas levantou a possibilidade de criar um “sistema americano de destilação”. Ele explicou à TechCrunch que a ideia seria permitir o uso dessas técnicas por laboratórios americanos que desenvolvem modelos de pesos abertos, com acesso aos modelos-alvo “pela porta da frente” e dentro de condições claras de acesso, e não por meio de falsificação de identidade, fraude ou roubo de credenciais.
O que significa destilação de modelos?
A destilação de modelos consiste em treinar um novo modelo aproveitando as saídas de outro modelo, geralmente enviando um grande número de solicitações e analisando suas respostas e sua forma de raciocínio. Laboratórios de inteligência artificial usam essa técnica legitimamente em alguns cenários de treinamento e aprimoramento de modelos, mas os limites de seu uso tornam-se controversos quando o modelo-alvo é acessado sem autorização ou quando a identidade da entidade usuária é ocultada.
Segundo a matéria, a Anthropic publicou esta semana seu segundo relatório acusando laboratórios chineses de realizar “ataques ilegais de destilação”. A empresa afirma que essas operações envolveram ocultação de identidade e o uso de fraude e credenciais roubadas para acessar os modelos. Dario Amodei, CEO da Anthropic, havia pedido publicamente que os órgãos reguladores americanos adotassem medidas mais rigorosas contra esse tipo de destilação.
Por que Tan apresenta uma posição diferente?
O argumento de Tan não se limita à competição entre Estados Unidos e China. Ele acredita que os laboratórios de inteligência artificial não deveriam ter ampla autoridade para controlar o que os clientes fazem com as informações que obtêm por meio de interfaces de programação de aplicações. Em sua visão, impor fortes restrições ao uso das saídas de modelos fechados pode limitar a capacidade de pesquisadores e desenvolvedores de construir alternativas abertas.
Tan também relaciona essa posição ao histórico de treinamento dos próprios modelos comerciais. Ele observa que os laboratórios de modelos fechados coletaram grandes quantidades de conhecimento humano amplamente disponível para treinar seus sistemas, incluindo materiais protegidos por direitos autorais, sem sempre obter a autorização dos titulares de propriedade intelectual. Por isso, argumenta que o acesso a uma inteligência treinada com dados públicos abrangentes deveria se aproximar de um bem público, em vez de permanecer totalmente sujeito a termos de serviço impostos por empresas privadas.
O que muda na prática?
Se essa ideia se transformar em política, a disputa girará em torno das condições de acesso, dos limites de uso e da comprovação do consentimento do modelo-alvo, e não da autorização de qualquer tipo de cópia de modelos. A distinção feita por Tan entre destilação autorizada e destilação baseada no roubo de credenciais é importante; ele não defende as operações que a Anthropic atribui aos laboratórios chineses, mas sim a concessão de uma oportunidade legal para que laboratórios americanos menores usem as saídas de modelos avançados.
Para os desenvolvedores de modelos de pesos abertos, essa abordagem poderia reduzir a lacuna de recursos entre eles e os laboratórios que possuem o capital, os pesquisadores e a infraestrutura necessários para desenvolver modelos Frontier do zero. Já os laboratórios comerciais avançados podem considerá-la uma ameaça ao valor de seus modelos fechados e à capacidade de controlar o uso de suas interfaces e saídas.
Opinião versus fatos
Tan apresenta sua posição como uma forma de preservar o pluralismo no mercado de inteligência artificial. Ele alerta para um cenário em que uma única empresa, com o melhor acesso a capital e aos melhores pesquisadores, se torne proprietária do modelo mais poderoso e a única porta de entrada para capacidades avançadas. Ele acredita que os modelos de pesos abertos oferecem aos usuários maior liberdade e acesso, enquanto os laboratórios avançados garantem a continuidade dos investimentos no desenvolvimento de novas capacidades.
Mas a matéria não apresenta evidências de um acordo regulatório americano sobre um “sistema de destilação” desse tipo, nem resolve questões de propriedade intelectual, termos contratuais ou formas de verificar o uso autorizado. Portanto, a proposta de Tan continua sendo uma posição política e intelectual em um debate que envolve segurança econômica, direitos das empresas, interesses dos pesquisadores e riscos de uso indevido dos modelos, e não um anúncio de uma política em vigor.