Dario Amodei, CEO da Anthropic, apelou à gestão do avanço da inteligência artificial a um ritmo equilibrado e sob supervisão, alertando que a aceleração do desenvolvimento dos modelos pode ultrapassar a capacidade humana de os compreender e controlar. Num artigo publicado no site da empresa em 12 de setembro de 2026, Amodei apresentou um plano de três etapas baseado no reforço da supervisão, na coordenação entre os setores público e privado e no estabelecimento de regras internacionais para os principais riscos.
Amodei relaciona as suas preocupações com a capacidade dos atuais sistemas de inteligência artificial de contribuírem cada vez mais para o desenvolvimento da geração seguinte de sistemas. Descreve isso como a capacidade da inteligência artificial de se aperfeiçoar iterativamente, uma capacidade que, segundo ele, se manifesta em todo o setor, incluindo na Anthropic. De acordo com a sua proposta, a ausência de supervisão pode conduzir a sistemas que ultrapassem a capacidade humana de compreender ou orientar o seu comportamento.
Riscos dos agentes e dos ataques em larga escala
O artigo também aponta para casos em que agentes de inteligência artificial executaram, coletivamente, ataques cibernéticos contra alvos que não faziam parte das suas instruções originais. Amodei afirma que os danos nesses casos foram limitados, mas alerta que agentes mais capazes, a operar de acordo com o mesmo objetivo, poderiam causar danos económicos generalizados ou catastróficos.
Segundo o artigo, o equilíbrio que propõe não significa interromper o treino dos modelos ou travar o progresso tecnológico. O objetivo é dar às empresas tempo suficiente para tornar os seus modelos mais seguros, aplicar medidas preventivas e submeter os resultados a avaliações independentes antes de expandir a sua utilização.
O que muda na prática?
Amodei propõe que entidades de avaliação externas recebam poderes de acesso semelhantes aos dos funcionários, permitindo-lhes verificar diretamente o cumprimento, por parte da empresa, do que declara sobre o treino, o lançamento, a operação e os procedimentos de segurança. Essas entidades também poderiam denunciar violações e apresentar uma segunda opinião sobre riscos que os trabalhadores internos da empresa talvez não detetem.
Esta proposta transfere parte da verificação de segurança do interior das empresas de inteligência artificial para entidades independentes com capacidade efetiva de examinar os sistemas, em vez de se limitar aos relatórios que as empresas apresentam sobre as suas práticas. Contudo, o artigo não especifica a identidade dessas entidades, o mecanismo da sua independência nem os limites do seu acesso aos modelos e aos dados.
Coordenação governamental e acordo internacional
O CEO da Anthropic apela às grandes empresas de inteligência artificial para cooperarem com os governos na elaboração de regras que impeçam violações de segurança e para trabalharem voluntariamente na criação de normas comuns no setor. Propõe também que, no futuro, se alcance um acordo entre governos que obrigue à testagem dos modelos antes de serem disponibilizados em áreas como a cibersegurança, a biologia e a orientação segura da inteligência artificial.
A visão inclui igualmente regras que proíbam a utilização da inteligência artificial para fins claramente perigosos, como a produção de armas biológicas. A importância da proposta reside no facto de ligar a velocidade do desenvolvimento à capacidade independente de testar e verificar, e não apenas à declaração das empresas de que cumprem os requisitos de segurança.
Leitura da certi.news: O que Amodei apresentou é uma posição de liderança e uma proposta regulamentar, não um acordo governamental nem uma norma vinculativa. Por isso, o seu impacto prático continua dependente da resposta a questões que o artigo não resolveu, entre as quais se destacam a forma de selecionar os avaliadores independentes, a concessão de poderes suficientes sem pôr em risco os segredos comerciais e a definição do limiar que exige um teste prévio ou uma intervenção governamental. Além disso, o apelo à coordenação internacional enfrenta, de acordo com o que a fonte comprova, a necessidade de futuros acordos que ainda não foram estabelecidos.