Um novo estudo realizado pela empresa de pesquisa e design Convovo, sob a supervisão do professor da Universidade Cornell Tapan Parikh, revelou diferenças marcantes nas orientações políticas de grandes modelos de linguagem quando forçados a escolher candidatos políticos. Os resultados mostraram que o modelo Grok 4.7, da xAI, recomendou o candidato republicano em 92% das respostas, enquanto o modelo GPT-6.1 Sol, da OpenAI, favoreceu o candidato democrata em 97% de cerca de 500 disputas eleitorais, registrando concordância entre os dois modelos em menos de 10% dos casos.
Embora os aplicativos de consumo oficiais desses robôs normalmente recusem a apresentação de recomendações eleitorais diretas, os pesquisadores testaram os modelos por meio de interfaces de programação de aplicativos (APIs) usando perguntas diretas que exigiam a indicação de um único candidato sem rodeios. A OpenAI afirmou que as interfaces de aplicativos voltadas para desenvolvedores não refletem a experiência normal dos usuários no aplicativo de consumo, enfatizando que o ChatGPT foi projetado para ser inerentemente neutro e não deveria carregar nenhum viés político.
Como os vieses e as fontes confiáveis são formados?
As análises indicaram que os modelos dependem de padrões de busca e fontes significativamente diferentes para justificar suas escolhas. Por exemplo, o Grok recorreu frequentemente a fontes conservadoras e sites como o X (antigo Twitter) e guias de votação conservadores, enquanto o GPT confiou fortemente em fontes como a Wikipedia, a Associated Press, o Axios e o Reddit. Os tópicos pesquisados pelos modelos também diferiram: o Grok focou em imigração, impostos, crime e energia, enquanto o GPT tendeu para saúde e aborto.
Quando a função de busca na internet foi desativada e limitou-se aos dados de treinamento básicos com base em uma solicitação técnica, a inclinação republicana do Grok desapareceu, transformando-se na recusa de responder na maioria dos casos, enquanto o GPT manteve sua orientação democrata evidente nos pesos de programação, indicando uma diferença fundamental no mecanismo de tomada de decisão entre os dois modelos.
O que justifica essas diferenças na prática?
Esses resultados ilustram o perigo dos vieses embutidos ou implícitos nos modelos de inteligência artificial, especialmente quando os usuários dependem de conversas gerais com chatbots para explorar questões políticas e formar opiniões, mesmo que não solicitem uma indicação direta. As observações técnicas incluídas no estudo apontam para a existência de variáveis de entrada adicionais invisíveis na API do Grok, enquanto as tendências do GPT estão associadas a dados históricos e pesos integrados.
Esses dados abrem um amplo debate sobre a neutralidade dos sistemas de inteligência artificial generativa e destacam a necessidade contínua de auditar os algoritmos de busca e as fontes das quais esses modelos obtêm suas informações, especialmente em períodos sensíveis, como as temporadas de eleições legislativas e presidenciais.