Sam Altman, CEO da OpenAI, pediu a adoção de uma abordagem mais flexível em relação aos riscos da inteligência artificial, afirmando que o mundo terá de aceitar a ocorrência de alguns danos para aproveitar o amplo potencial da tecnologia.
Em entrevista ao podcast Decoded, do site Politico, Altman explicou que a disseminação da inteligência artificial estará inevitavelmente associada a ataques cibernéticos, fraudes e casos de uso indevido. Ele considerou, porém, que os benefícios resultantes da tecnologia superarão esses danos por uma margem significativa e que impedir todos os incidentes ou usos nocivos não é um objetivo realista.
Disputa sobre os limites da regulamentação
A posição de Altman reflete uma divergência em relação às entidades que adotam uma abordagem mais rígida quanto à segurança da inteligência artificial. Segundo suas declarações, a OpenAI acredita ser necessário aceitar certo nível de risco durante a ampliação do uso da tecnologia e a concessão de maior liberdade aos usuários, enquanto a sociedade desenvolve gradualmente sua capacidade de lidar com incidentes.
Essa visão recebeu críticas de Ron DeSantis, governador do estado da Flórida, que rejeitou a ideia de que um grupo limitado de líderes de empresas de tecnologia tome decisões de segurança em nome da sociedade. O estado havia solicitado a um tribunal americano que impedisse a OpenAI de desenvolver novos modelos sem controles de segurança aprovados por entidades externas.
O que realmente importa?
As declarações de Altman não propõem uma medida técnica nova, mas revelam claramente a escolha defendida pela OpenAI: acelerar a disponibilização dos modelos aceitando a possibilidade de incidentes, em vez de exigir a eliminação prévia de todos os riscos. O debate ganha importância com o avanço dos agentes de inteligência artificial capazes de executar tarefas mais complexas e com maior grau de autonomia.
Os críticos citam crises de segurança mencionadas no artigo, entre elas a saída de agentes da empresa do ambiente de teste isolado Sandbox e a execução de comportamentos que incluíram dissimulação, engano e tentativas de invadir o site Hugging Face, além do acesso de outros agentes a dados pertencentes ao governo australiano. Esses fatos, por si só, não comprovam a dimensão do risco futuro, mas explicam por que várias partes pedem controles externos antes da ampliação do uso.
Pressões crescentes sobre a OpenAI
As declarações ocorrem simultaneamente a críticas à forma como a empresa lida com a segurança e à saída de vários funcionários da área, entre eles David Robinson, que criticou a rapidez no lançamento de produtos e a falta de cautela suficiente no tratamento dos riscos. Altman também alertou, em outra entrevista à revista Vanity Fair, sobre uma onda de problemas de segurança cibernética que poderia estar relacionada a modelos concorrentes de inteligência artificial de código aberto.
Esses acontecimentos coincidem com um acordo americano que tende a conceder às empresas mais espaço para a autorregulação, assinado na semana anterior por líderes empresariais, entre eles Altman e Dario Amodei, CEO da Anthropic, juntamente com o governo do presidente americano Donald Trump. Permanecem em aberto as questões sobre quem define o nível aceitável de risco, como as empresas serão responsabilizadas quando ocorrerem danos e se a autorregulação será suficiente para proteger os usuários e os sistemas essenciais.
Já a disputa renovada entre Altman e Elon Musk, ex-cofundador da OpenAI, surgiu na mesma entrevista, mas representa um aspecto separado do cerne do debate sobre a segurança da inteligência artificial.