연구 및 디자인 회사인 Convovo가 코넬대학교의 타판 파리크 교수의 감독 하에 수행한 새로운 연구에 따르면, 대규모 언어 모델에 정치적 후보를 선택하도록 강제했을 때 정치적 성향에서 현격한 차이가 나타났다. 결과에 따르면 SpaceXAI의 Grok 4.7 모델은 약 500개의 선거구 중 92%의 답변에서 공화당 후보를 추천한 반면, OpenAI의 GPT-6.1 Sol 모델은 97%의 비율로 민주당 후보의 손을 들어주었으며, 두 모델이 일치하는 경우는 10% 미만으로 기록되었다.
이러한 봇들의 공식 소비자용 애플리케이션은 대개 직접적인 선거 추천 제공을 거부하지만, 연구원들은 회피하지 말고 단일 후보를 지명해달라고 요구하는 직접적인 질문을 사용하여 API(애플리케이션 프로그래밍 인터페이스)를 통해 모델을 테스트했다. OpenAI는 개발자 전용 API가 일반 사용자가 소비자용 앱을 통해 겪는 일상적인 경험을 반영하지 않는다고 확인하며, ChatGPT는 본질적으로 중립적이도록 설계되었으며 어떠한 정치적 편향도 가져서는 안 된다고 강조했다.
편향과 승인된 소스는 어떻게 형성되는가?
분석에 따르면 모델들은 선택을 정당화하기 위해 눈에 띄게 서로 다른 검색 패턴과 소스에 의존하는 것으로 나타났다. 예를 들어, Grok은 보수적 소스와 X(트위터) 같은 웹사이트, 그리고 보수적 투표 가이드를 자주 인용했으며, GPT는 위키백과, AP통신, 악시오스, 레딧과 같은 소스에 집중적으로 의존했다. 또한 모델들이 검색하는 주제도 달랐는데, Grok은 이민, 세금, 범죄, 에너지에 초점을 맞춘 반면, GPT는 의료와 낙태 쪽으로 기울었다.
기술적 요청에 따라 온라인 검색 기능을 비활성화하고 기본 학습 데이터만 남겨두었을 때는 Grok의 공화당 성향이 사라지고 대부분의 경우 답변을 거부하는 것으로 바뀌었으며, GPT 모델은 프로그래밍 가중치에 명백히 드러난 민주당 성향을 유지하여 두 모델 간의 의사결정 메커니즘에 근본적인 차이가 있음을 시사했다.
이러한 차이를 실무적으로 정당화하는 요인은 무엇인가?
이러한 결과는 특히 사용자가 직접적인 추천을 요구하지 않더라도 정치적 이슈를 탐색하고 의견을 형성하기 위해 챗봇과의 일반적인 대화에 의존할 때, 인공지능 모델에 내재되거나 암묵적인 편향이 얼마나 위험한지 보여준다. 연구에 포함된 기술적 관찰에 따르면 Grok의 API에는 보이지 않는 추가적인 입력 변수가 존재하며, GPT 성향은 과거 데이터 및 내장된 가중치와 관련이 있다.
이러한 데이터는 생성형 인공지능 시스템의 중립성에 대한 광범위한 토론을 열어주며, 특히 입법 및 대선 시즌과 같은 민감한 시기에 이러한 모델이 정보를 얻는 검색 알고리즘과 소스에 대한 지속적인 감사의 필요성을 확인시켜 준다.