Chris Lehane, chefe de políticas globais da OpenAI, confirmou que sua empresa mantém, há semanas, conversas com a Anthropic e o Google DeepMind sobre a segurança da inteligência artificial. A declaração foi feita durante um encontro com jornalistas na terça-feira, enquanto Lehane está em Washington trabalhando com legisladores americanos para lidar com os riscos catastróficos associados à inteligência artificial.
O anúncio confirma relatos anteriores sobre uma cooperação não divulgada entre as três empresas e dá à discussão uma dimensão prática que vai além dos apelos gerais pela segurança. O artigo não esclareceu os detalhes do mecanismo das conversas nem as decisões resultantes, e a fonte não informou comentários da Anthropic, do Google ou da OpenAI em resposta aos pedidos da TechCrunch.
Do apelo à cooperação institucional
As conversas ocorrem após um artigo publicado por Dario Amodei, CEO da Anthropic, no qual ele pediu que o setor de inteligência artificial trabalhasse em conjunto para desacelerar o ritmo de desenvolvimento de modelos avançados de inteligência artificial e evitar riscos catastróficos. O apelo recebeu apoio de figuras proeminentes, entre elas Sam Altman, da OpenAI, Demis Hassabis, do Google, e Elon Musk, da SpaceXAI.
Altman disse que a OpenAI se juntaria à Anthropic na introdução de entidades independentes de avaliação de terceiros para monitorar a segurança. Outros relatos também indicaram que as três empresas estão trabalhando na criação de um órgão de padrões para o setor, em uma medida que, segundo Altman disse aos seus funcionários, talvez precise avançar sem o apoio do governo americano.
Hassabis havia pedido, em julho, a criação de um novo órgão americano de padrões que atuasse como entidade de supervisão da inteligência artificial, com autoridade para examinar os modelos mais avançados e coordenar uma desaceleração coletiva do desenvolvimento caso os riscos aumentassem.
A coordenação enfrenta a questão da concorrência
A cooperação entre os maiores laboratórios de inteligência artificial não está isenta de complexidade jurídica. Alguns envolvidos, entre eles Altman, apontaram que a coordenação entre as empresas poderia suscitar riscos relacionados às leis antitruste se fosse considerada um meio de limitar a concorrência. Amodei propôs uma isenção governamental limitada que permitisse esse tipo de cooperação em questões de segurança, mas Lehane disse que as empresas não precisam de tal isenção.
O que isso significa na prática?
O desenvolvimento representa uma transição da exigência de que cada empresa avalie internamente seus modelos para a busca de acordos conjuntos que incluam partes independentes e padrões setoriais. Se essas conversas se transformarem em um mecanismo formal, elas poderão influenciar a forma como os modelos avançados são testados antes de serem lançados ou de terem seu uso ampliado. Mas a fonte ainda não comprova a existência de um órgão conjunto ou de um acordo vinculativo, nem esclarece como garantir a independência dos avaliadores ou impedir que os padrões de segurança sejam usados para restringir a concorrência.
Na mesma reunião de terça-feira, Lehane anunciou o apoio da OpenAI a uma cláusula do FRONTIER Act que obriga os laboratórios de inteligência artificial avançada a permitir que “organizações independentes de verificação” entrem em suas empresas para garantir que os modelos sejam desenvolvidos com segurança.
Essa tendência contrasta com a posição do presidente Trump, que descreveu as preocupações com a segurança como uma fraude e rejeitou a necessidade de uma regulamentação mais rigorosa, considerando que qualquer desaceleração poderia dar vantagem à China. David Sacks, seu conselheiro de inteligência artificial, repetiu que as preocupações com os riscos existenciais da inteligência artificial são exageradas. Por isso, o próximo passo continua dependendo da capacidade das empresas de transformar a cooperação voluntária em padrões aplicáveis e da posição dos legisladores americanos sobre os limites dessa coordenação.