A remoção das barreiras de segurança de modelos de inteligência artificial de pesos abertos passou a estar disponível por meio de um serviço comercial direto, depois que a empresa Abliteration.ai lançou uma plataforma que hospeda versões modificadas de modelos avançados e permite seu uso pelo navegador ou por uma interface de programação de aplicações. A plataforma inclui uma versão do modelo GLM-5.3, lançado recentemente pela Z.ai, após a remoção de sua tendência a recusar a execução de solicitações nocivas.
O serviço baseia-se em uma técnica conhecida como “abliteration”, uma prática difundida há anos entre pesquisadores e desenvolvedores que trabalham com modelos de pesos abertos. Existem milhares de modelos modificados dessa maneira no Hugging Face, mas a Abliteration.ai transfere essa prática de um ambiente que exige baixar o modelo e fornecer a infraestrutura computacional necessária para executá-lo para um serviço pronto, que reduz as barreiras para os usuários.
Justificativa de segurança e riscos paralelos
A empresa afirma que seu objetivo é permitir trabalhos autorizados de cibersegurança ofensiva, testes de equipes vermelhas e testes de agentes, tarefas que outros modelos podem se recusar a executar. A lógica em que se baseia é clara no campo da defesa: não é possível testar um comportamento que a equipe não consegue reproduzir, e um modelo que se recusa a produzir códigos de exploração eficazes pode ser menos útil ao simular um atacante real.
Mas a remoção da recusa não distingue automaticamente entre o pesquisador de segurança e o usuário com intenção nociva. Durante um teste realizado pela TechCrunch, o modelo modificado respondeu a solicitações relacionadas ao roubo de senhas armazenadas no Chrome e à produção de informações sobre o cultivo de um patógeno humano perigoso. Esse resultado não publica uma descrição operacional das solicitações, mas demonstra na prática que a barreira removida não era meramente simbólica.
Uma startup e controles ainda incompletos
A Abliteration.ai foi fundada no fim do ano passado e registrada oficialmente em março. O cofundador Devon disse que a empresa celebrou vários acordos com provedores de serviços em nuvem e financia suas operações com a receita dos clientes, sem ter captado financiamento de capital de risco até agora, embora esteja em conversas sobre o assunto. A fonte recusou-se a publicar o nome completo de Devon porque ele ainda trabalha para outra empresa.
A plataforma oferece uma camada opcional de moderação pela qual os clientes podem adicionar as barreiras que desejarem, e a própria plataforma também inclui algumas restrições limitadas. Devon disse que está trabalhando para adicionar controles destinados a impedir a violência, mas a empresa atualmente não aplica práticas de verificação da identidade do cliente (KYC) que ultrapassem o registro do cartão de crédito usado no pagamento.
O que muda na prática?
Devon afirma que os clientes da empresa incluem startups de testes de equipes vermelhas no Reino Unido e na Europa, que ajudam bancos, companhias aéreas e outras instituições ligadas à infraestrutura crítica. Ele considera que oferecer aos defensores ferramentas semelhantes às que os atacantes poderiam usar pode acelerar os testes de agentes e sistemas defensivos.
Mas essa avaliação não é consensual. Ahmed Aly, CEO da Fabraix, disse que sua empresa depende mais do ajuste fino de modelos abertos e que a remoção das barreiras pode reduzir parte do conhecimento e das capacidades. Alessio Lomuscio, da Safe Intelligence, considera que os modelos modificados podem ser úteis para provocar determinados comportamentos durante testes de estresse, enquanto David Slater, da Armadin, afirmou que sua empresa não os utiliza atualmente, embora continue pesquisando a tecnologia.
A questão aberta da governança
O serviço revela um paradoxo difícil de resolver apenas tecnicamente: disponibilizar modelos sem restrições pode ajudar os defensores a compreender os danos, mas também reduz o custo de acesso a capacidades que podem ser utilizadas indevidamente. Andrew Yoon, da organização CivAI, propôs que os governos obriguem os provedores de serviços a operar classificadores para detectar atividades nocivas nos campos da cibersegurança e das armas biológicas, e que exijam dos locatários de unidades de processamento gráfico avançadas a verificação da identidade dos clientes e a recusa de acesso quando houver indícios de uso indevido.
A informação mais importante aqui não é que a remoção das barreiras seja possível; isso já é conhecido na comunidade de modelos abertos. A novidade é transformá-la em um serviço hospedado e fácil de usar antes que as regras de responsabilização, verificação dos clientes e limites do uso defensivo estejam concluídas. Seu efeito real nos testes de segurança continuará sendo objeto de debate, especialmente diante da existência de alternativas como o ajuste fino e da possibilidade de que o próprio processo reduza algumas capacidades do modelo.