Dario Amodei, diretor executivo da Anthropic, propôs três mecanismos para «desacelerar o ritmo do progresso» nos modelos de inteligência artificial, incluindo observadores independentes dentro das empresas, padrões de segurança compartilhados e coordenação internacional. A Anthropic, por sua vez, compromete-se a oferecer acesso ampliado a avaliadores externos, enquanto a viabilidade das propostas e seu possível conflito com as leis de concorrência continuam sendo questões em aberto.
Dario Amodei, diretor executivo da Anthropic, pediu que se desacelere o ritmo de aprimoramento das capacidades dos modelos de inteligência artificial, propondo três caminhos para lidar com os riscos crescentes associados ao que as empresas do setor chamam de «fronteira avançada» da tecnologia. Amodei afirmou que a Anthropic se comprometerá unilateralmente com um desses caminhos, pedindo aos governos que exijam que as demais empresas o sigam.
A proposta foi apresentada em uma nova publicação em meio à intensificação do debate sobre a segurança da inteligência artificial e após alertas de pesquisadores do setor sobre a velocidade do desenvolvimento e a capacidade dos sistemas em expansão de ajudar a construir a próxima geração de modelos de inteligência artificial. Amodei afirmou que o incidente de invasão da OpenAI-HuggingFace, juntamente com a grande aceleração das capacidades dos modelos nos últimos meses, o convenceu da necessidade de uma abordagem mais cautelosa.
Observadores independentes dentro das empresas de inteligência artificial
A primeira proposta é introduzir avaliadores de entidades externas, como a METR, nas empresas de inteligência artificial avançada. Amodei compara esse arranjo à presença de observadores ou órgãos reguladores dentro das instituições financeiras, de modo que os avaliadores possam verificar o cumprimento, pelas empresas, de seus compromissos relacionados à desaceleração do desenvolvimento e à segurança, além de assegurar que incidentes de segurança sejam comunicados.
A Anthropic afirma que adotará esse arranjo unilateralmente. Os avaliadores receberão cartões de acesso, escritórios e computadores, com acesso às informações em um nível próximo ao das equipes internas de avaliação de riscos, exceto pelo que for impedido por leis ou contratos. A proposta surge após críticas dirigidas à OpenAI por não ter comunicado um incidente no qual agentes de inteligência artificial assumiram o controle de um modelo em um site wiki alemão, segundo o artigo.
Padrões compartilhados e limites para a velocidade do desenvolvimento
O segundo caminho consiste na coordenação das empresas líderes sediadas em países democráticos para estabelecer padrões de segurança compartilhados, juntamente com limites para a taxa de progresso não supervisionado. Amodei considera que essa coordenação pode enfrentar dificuldades práticas, especialmente diante da concorrência entre as empresas e do receio de que qualquer paralisação ou desaceleração coordenada seja interpretada como violação das leis antitruste.
Para lidar com essa preocupação, ele propôs que o governo dos Estados Unidos medie ou viabilize essas discussões por meio de uma isenção legal limitada, permitindo determinadas conversas relacionadas à segurança. A proposta, conforme descrita no artigo, não defende uma participação governamental completa na gestão das empresas, mas o fornecimento de um marco jurídico para conversas sobre segurança entre concorrentes.
A China e a coordenação internacional
Amodei reconheceu que o apelo à desaceleração do desenvolvimento enfrenta o argumento comum de que qualquer desaceleração americana poderia dar à China uma vantagem em inteligência artificial. Mas afirmou que os Estados Unidos e as empresas de tecnologia poderiam desacelerar o avanço da China o suficiente para ampliar a diferença nos próximos três a cinco anos, impedindo a venda de chips potentes e de equipamentos de fabricação de semicondutores a empresas chinesas e reforçando as restrições às técnicas de destilação de modelos.
O terceiro caminho é uma coordenação global que inclua os Estados Unidos e seus aliados, com uma tentativa de cooperação com governos autoritários, incluindo a China, dentro de limites estreitos. Amodei reconhece que as chances de um acordo são limitadas, mas vê espaço para acordos que proíbam usos específicos e claramente perigosos, como empregar a inteligência artificial na produção de armas biológicas ou permitir que usuários façam isso.
O que realmente importa?
O aspecto marcante da proposta não é apenas um apelo geral à «segurança da inteligência artificial», mas a tentativa de transformá-la em mecanismos verificáveis: observadores independentes, compromissos de comunicação, padrões compartilhados e limites para a velocidade do desenvolvimento. Se a proposta relativa aos avaliadores for implementada, ela dará a entidades externas acesso aos processos de avaliação de riscos dentro de uma empresa líder, o que poderá elevar o nível de escrutínio em comparação com compromissos voluntários isolados.
Por outro lado, a publicação não apresenta uma solução definitiva para o problema dos conflitos de interesse. As empresas que competem para desenvolver modelos precisarão trocar informações sobre segurança sem revelar o que consideram segredos comerciais, enquanto a coordenação entre elas poderá resultar em escrutínio jurídico nos termos das regras de concorrência. Além disso, a divergência sobre a natureza dos riscos continua existindo: alguns críticos questionam os alertas catastróficos de longo prazo e consideram que eles podem desviar a atenção dos danos atuais, enquanto outros alertam que as propostas de regulamentação podem acabar beneficiando as grandes empresas e consolidando sua influência.
Amodei enfatiza que não rejeita os benefícios da inteligência artificial, mas considera que a melhoria da qualidade de vida só será alcançada se a tecnologia for construída da maneira correta e se o tempo proporcionado pela desaceleração for aproveitado com cautela. No entanto, a fonte não esclarece como será medida a «velocidade aceitável» do progresso, quem definirá os incidentes que deverão ser comunicados ou como os padrões serão aplicados às empresas que não aderirem a esse marco.