Os debates sobre o futuro da inteligência artificial caminham para uma terceira opção entre acelerar o desenvolvimento de modelos sem restrições e os apelos para desacelerar o progresso: alcançar um equilíbrio claro entre inovação e segurança. Os apelos surgiram após alertas feitos por autoridades e pesquisadores de empresas de inteligência artificial sobre a possibilidade de a velocidade de desenvolvimento dos sistemas ultrapassar a capacidade das partes envolvidas de compreendê-los e controlá-los.
Dario Amodei, CEO da Anthropic, havia alertado que os novos sistemas poderiam evoluir a uma velocidade superior à capacidade da sociedade de assimilá-los e controlá-los. Elon Musk apoiou o alerta com uma declaração breve na plataforma X, enquanto Sam Altman, CEO da OpenAI, disse concordar com a proposta, observando que sua empresa tomaria a mesma medida no que diz respeito à avaliação independente. O artigo também citou o pesquisador Jacob Coxon, que anteriormente trabalhou na Anthropic e na OpenAI, por preocupações semelhantes sobre a velocidade do progresso.
Entre a velocidade dos modelos e a preparação da sociedade
Zafer Küçükşabanoğlu, presidente da Associação de Políticas de Inteligência Artificial (AIPA), afirmou que os alertas emitidos por pessoas que trabalham dentro das empresas desenvolvedoras merecem ser levados a sério, mas rejeitou considerar a interrupção do desenvolvimento uma solução. Segundo sua visão, a forte competição entre as empresas de inteligência artificial acelerou o ritmo do progresso, enquanto as políticas públicas, as leis, os sistemas educacionais, o mercado de trabalho e a infraestrutura social não avançam no mesmo ritmo.
Küçükşabanoğlu considera que o aumento da lacuna entre a velocidade da tecnologia e o nível de preparação dos países e das sociedades pode produzir efeitos que ultrapassem as próprias empresas. As grandes empresas não possuem apenas capacidades econômicas, mas também reúnem dados, tecnologias, conhecimentos especializados e recursos humanos, o que pode afetar futuramente os equilíbrios de poder globais. Por isso, ele pediu que os países ocupem o centro da coordenação, rejeitando tanto o desenvolvimento desenfreado quanto uma regulamentação tão rígida a ponto de prejudicar a inovação.
O que muda na prática?
A proposta apresentada pelo artigo não pede uma data específica para interromper o desenvolvimento dos modelos nem oferece um marco regulatório detalhado. No entanto, define um conjunto de equilíbrios que, segundo os defensores da ideia, precisam ser administrados: velocidade versus segurança, inovação versus regulamentação, competição versus cooperação e progresso tecnológico versus preparação da sociedade.
Küçükşabanoğlu também pediu que as empresas cooperem entre si e com os governos em questões de segurança, ética e padrões, mantendo a responsabilidade de definir as regras do jogo, os limites de segurança e o interesse público dentro de uma estrutura liderada pelos Estados.
A necessidade de um diálogo mais amplo
Por sua vez, a Dra. Emel Sokullu, do Instituto de Pesquisa em Ciências da Saúde e Tecnologias da Universidade Medipol, afirmou que os princípios éticos devem fazer parte do progresso tecnológico, e não ser objeto de um debate posterior. Ela alertou que a velocidade do desenvolvimento pode, às vezes, levar à superação dos debates aprofundados sobre os aspectos éticos, sociais e de governança.
Sokullu pediu a criação de plataformas conjuntas e mecanismos sólidos de diálogo que incluam cientistas, desenvolvedores de tecnologia, tomadores de decisão e a sociedade, com participação ativa de organizações da sociedade civil. A importância dessa proposta está em deslocar o debate da pergunta «quem é mais rápido?» para uma questão mais ampla sobre como desenvolver a inteligência artificial dentro de limites que possam ser compreendidos, revisados e sujeitos à responsabilização das partes envolvidas. Os detalhes desses limites e os mecanismos para sua aplicação continuam indefinidos no artigo, que tampouco apresenta um cronograma ou compromissos práticos por parte das empresas ou dos governos.