A empresa Nous Research, especializada no desenvolvimento de modelos de inteligência artificial de código aberto, revelou seu novo modelo Arete-27B. Este modelo é baseado no modelo Qwen3.8-27B desenvolvido pela empresa chinesa Alibaba, mas com modificações fundamentais destinadas a redirecionar as respostas do modelo para refletir o que a empresa descreve como "valores ocidentais".
Mecanismo de modificação e treinamento
A Nous Research não desenvolveu um modelo básico do zero, mas contou com a técnica de ajuste fino (Fine-tuning) no modelo atual. O processo levou a treinar o modelo em cerca de 52,8 milhões de tokens em 1.202 etapas de treinamento, sem a necessidade de usar técnicas complexas como aprendizado por reforço ou otimização de preferências, e sem comprometer a arquitetura estrutural do modelo original.
O que muda na prática?
A empresa conduziu uma avaliação cobrindo 803 perguntas distribuídas em sete categorias, incluindo liberdade de expressão, democracia e políticas governamentais. Os resultados mostraram uma queda significativa na porcentagem de respostas que adotam o discurso oficial do governo chinês, de 22% no modelo original para menos de 1% no modelo Arete-27B. O índice de precisão da informação (Fact Score) também aumentou de 2,32 para 2,98 de um total de 5.
Por que esta notícia é importante?
A importância deste desenvolvimento reside em provar que modelos de pesos abertos podem ter suas orientações de valores e políticas remodeladas com um esforço de treinamento relativamente limitado. No entanto, a empresa aponta limitações importantes:
- Verificação independente: Os resultados foram avaliados usando o modelo Grok 4.7 e ainda não passaram por auditoria independente de terceiros.
- Viés político: A diminuição do alinhamento com o discurso oficial não significa necessariamente alcançar neutralidade política completa ou precisão absoluta de informações.
- Desempenho geral: Os testes confirmaram que as modificações não afetaram negativamente as capacidades gerais do modelo, com o Arete-27B mantendo um desempenho semelhante ao modelo original em testes de referência padrão.
A Nous Research disponibilizou os pesos do modelo, os dados de treinamento e a metodologia de avaliação por meio da plataforma Hugging Face, abrindo a porta para que pesquisadores realizem testes independentes e verifiquem a eficácia dessa metodologia na alteração das orientações ideológicas de grandes modelos de linguagem.