Un nuevo estudio realizado por la firma de investigación y diseño Convovo, bajo la supervisión del profesor de la Universidad de Cornell Tapan Parikh, reveló diferencias drásticas en las orientaciones políticas de los grandes modelos de lenguaje cuando se les obliga a elegir candidatos políticos. Los resultados mostraron que el modelo Grok 4.7 de xAI recomendó al candidato republicano en el 92% de las respuestas, mientras que el modelo GPT-6.1 Sol de OpenAI favoreció al candidato demócrata en el 97% de casi 500 contiendas electorales, registrando un acuerdo entre ambos modelos en menos del 10% de los casos.
Aunque las aplicaciones de consumo oficiales de estos bots suelen negarse a ofrecer recomendaciones electorales directas, los investigadores probaron los modelos a través de interfaces de programación de aplicaciones (APIs) utilizando preguntas directas que exigían nombrar a un solo candidato sin rodeos. OpenAI afirmó que las APIs destinadas a los desarrolladores no reflejan la experiencia habitual de los usuarios a través de la aplicación de consumo, y subrayó que ChatGPT está diseñado para ser neutral por naturaleza y se supone que no debe albergar ningún sesgo político.
¿Cómo se forman los sesgos y las fuentes de confianza?
Los análisis demostraron que los modelos dependen de patrones de búsqueda y fuentes notablemente diferentes para justificar sus elecciones. Por ejemplo, el modelo Grok se basó frecuentemente en fuentes conservadoras y sitios web como X (anteriormente Twitter) y guías de votación conservadoras, mientras que el modelo GPT confió intensamente en fuentes como Wikipedia, Associated Press, Axios y Reddit. Los temas que investigaban los modelos también difirieron; Grok se centró en la inmigración, los impuestos, la delincuencia y la energía, mientras que GPT se inclinó hacia la atención médica y el aborto.
Cuando se desactivó la función de búsqueda en internet y se utilizaron únicamente los datos de entrenamiento base a petición técnica, la inclinación republicana de Grok desapareció para convertirse en una negativa a responder en la mayoría de los casos, mientras que el modelo GPT mantuvo su orientación demócrata evidente en los pesos del software, lo que indica una diferencia fundamental en el mecanismo de toma de decisiones entre ambos modelos.
¿Qué justifica estas diferencias en la práctica?
Estos resultados ilustran la gravedad de los sesgos integrados o implícitos en los modelos de inteligencia artificial, especialmente cuando los usuarios confían en las conversaciones generales con los bots de chat para explorar cuestiones políticas y formarse opiniones, incluso si no solicitan una recomendación directa de candidatos. Las observaciones técnicas contenidas en el estudio indican la presencia de variables de entrada adicionales e invisibles en la API de Grok, mientras que las tendencias de GPT están vinculadas a los datos históricos y a los pesos integrados.
Estos datos abren un amplio debate sobre la neutralidad de los sistemas de inteligencia artificial generativa y reafirman la necesidad continua de auditar los algoritmos de búsqueda y las fuentes de las que estos modelos obtienen su información, especialmente durante periodos sensibles como las temporadas de elecciones legislativas y presidenciales.