A Anthropic pede aos governos que atualizem suas políticas para acompanhar a aceleração das capacidades da inteligência artificial, por meio de duas propostas que abrangem a governança de modelos avançados e a preparação para o impacto da tecnologia sobre os trabalhadores e a economia. A empresa considera que a velocidade de evolução dos modelos torna a transparência, por si só, insuficiente, e que as autoridades governamentais precisam de poderes maiores para lidar com implantações que possam envolver riscos catastróficos, estabelecendo salvaguardas que impeçam o uso indevido desses poderes.
A primeira proposta consiste no Marco de Inteligência Artificial Avançada, que se concentra nos modelos mais poderosos e nos riscos que podem decorrer deles. A segunda proposta, o Marco Econômico, aborda como preparar os trabalhadores e a economia para o impacto da inteligência artificial e garantir que seus benefícios financeiros sejam amplamente compartilhados. A Anthropic afirma que os dois marcos tratam de dois aspectos de um mesmo desafio: orientar a tecnologia de forma responsável à medida que ela avança e preparar-se para as mudanças que ela trará à sociedade.
Escopo das regras propostas
O marco avançado propõe aplicar as regras a modelos treinados com mais de 1025 operações de ponto flutuante e desenvolvidos por empresas que obtenham mais de 500 milhões de dólares em receitas relacionadas à inteligência artificial ou gastem mais de 1 bilhão de dólares em pesquisa e desenvolvimento nessa área. A Anthropic afirma que esse escopo tem como alvo os modelos de fronteira, em vez de impor os mesmos requisitos a todos os sistemas de inteligência artificial.
A empresa relaciona a necessidade desse tipo de regulamentação à tendência de forte crescimento das capacidades dos modelos. Ela observa que, alguns anos atrás, os modelos mal conseguiam escrever código, enquanto o modelo Claude Mythos Preview, segundo a Anthropic, descobriu milhares de vulnerabilidades de software de alto risco, incluindo vulnerabilidades em todos os principais sistemas operacionais e navegadores. A empresa conclui que a continuidade dessa tendência pode aumentar os riscos de danos catastróficos.
Quatro tipos de riscos
O marco se concentra em quatro áreas principais de risco:
- Riscos biológicos: sistemas desprotegidos podem tornar o desenvolvimento de armas biológicas mais fácil e menos dispendioso, embora as mesmas capacidades também possam acelerar a descoberta de medicamentos.
- Riscos cibernéticos: modelos avançados de inteligência artificial podem descobrir vulnerabilidades críticas em grande escala, o que pode ajudar na defesa dos sistemas, mas também eleva o nível de ameaça à infraestrutura essencial, como hospitais e redes de energia.
- Riscos de perda de controle: o controle de sistemas que atuam fora do alcance de seus desenvolvedores pode se tornar mais difícil à medida que suas capacidades melhoram.
- Pesquisa e desenvolvimento automatizados: os sistemas podem automatizar a pesquisa e o desenvolvimento de inteligência artificial, potencialmente multiplicando os três riscos anteriores.
Requisitos para desenvolvedores de modelos avançados
A Anthropic propõe que os desenvolvedores de modelos avançados testem seus sistemas e publiquem um resumo dos resultados, além de um marco de segurança que explique como avaliar riscos catastróficos e fichas do sistema que descrevam as capacidades e os riscos dos modelos. O marco também pede a publicação periódica de relatórios sobre o estado geral dos riscos e a realização regular de avaliações independentes. A empresa observa que alguns requisitos de transparência já são impostos por leis da Califórnia e de Nova York, mas considera que sua proposta vai além delas em alguns aspectos.
De acordo com a proposta, cada desenvolvedor de modelos avançados deveria contratar pelo menos um avaliador independente qualificado, que publicaria uma análise das avaliações da empresa e de seus relatórios de risco. A Anthropic também pede aos governos e ao setor de tecnologia que desenvolvam um ecossistema de avaliadores independentes, estabelecendo padrões para eles, oferecendo financiamento e garantindo acesso suficiente aos modelos.
O marco também inclui requisitos de segurança para proteger os pesos dos modelos e a infraestrutura usada no treinamento, considerados alvos valiosos para invasores, incluindo entidades governamentais com muitos recursos. A empresa propõe proteger todo o ambiente de desenvolvimento contra ameaças externas e internas, descrever o programa de segurança em nível geral para o público, fornecer detalhes a uma autoridade governamental específica mediante solicitação, criar canais para denunciar ataques de extração ou imitação de modelos e testar as defesas regularmente.
Poderes governamentais com salvaguardas
A Anthropic considera que os governos devem ter autoridade legal para impedir ou dissuadir a implantação de modelos que representem um risco significativo de causar danos catastróficos, com a aplicação de penalidades civis vinculadas às receitas anuais globais e aumentadas em caso de reincidência. Ao mesmo tempo, porém, alerta contra poderes regulatórios amplos ou pesados e propõe um mecanismo específico para impedir implantações perigosas, além de salvaguardas concretas para limitar o uso indevido dessa autoridade.
O marco se concentra principalmente no governo federal dos Estados Unidos, mas não defende a revogação das leis estaduais, a menos que seja aprovada uma lei federal pelo menos tão rigorosa quanto a proposta. A Anthropic afirma que a preempção dos poderes estaduais deveria ser limitada, para que eles continuem capazes de regulamentar questões como segurança infantil e proteção do consumidor, desde que estejam fora das funções de segurança específicas abrangidas pela lei federal.
Fortalecimento da resiliência da sociedade
A segunda parte do marco propõe medidas para aumentar a capacidade da sociedade de enfrentar os riscos. No campo biológico, as recomendações incluem a triagem da síntese genética, o monitoramento de novos surtos por meio de sistemas de alerta precoce e a preparação com o armazenamento de equipamentos de proteção e meios de limitar a transmissão pelo ar.
No campo cibernético, a Anthropic pede o fortalecimento do software do qual a internet depende, a oferta de suporte técnico aos operadores de infraestrutura essencial e a substituição dos sistemas antigos usados por ela. Também propõe criar uma função governamental dedicada a acompanhar as capacidades cibernéticas dos modelos avançados e a cooperação entre o governo e o setor de tecnologia no desenvolvimento de meios de proteção que permitam compartilhar amplamente as capacidades cibernéticas.
A empresa reconhece que a agenda de resiliência diante dos riscos de perda de controle e da pesquisa e desenvolvimento automatizados ainda está menos desenvolvida e precisa de mais trabalho em todo o setor. Entre as direções mencionadas estão o desenvolvimento de capacidades para detectar e responder a sistemas que atuem fora do controle de seus desenvolvedores e a construção de uma infraestrutura para conter ou desligar esses sistemas.
A Anthropic espera um amplo debate sobre suas propostas, mas exorta os formuladores de políticas a se envolverem nessas questões agora, enquanto as capacidades da inteligência artificial continuam melhorando nos próximos meses. A empresa enfatiza que a governança da tecnologia deve acompanhar essa evolução, embora as propostas apresentadas permaneçam sujeitas a debate e avaliação.