調査・設計企業Convovoが、コーネル大学のタパン・パリック教授の監督のもとで実施した新しい研究により、大規模言語モデルが政治的候補者の選択を強制された際の、その政治的傾向における著しい違いが明らかになった。結果として、SpaceXAI（※xAI）のGrok 4.7モデルは約500の選挙戦において92%の回答で共和党候補を推奨した一方、OpenAIのGPT-6.1 Solモデルは97%の割合で民主党候補びいきを示し、両モデルが一致したのは10%未満のケースにとどまった。
これらのボットの公式な一般向けアプリケーションでは通常、直接的な選挙の推奨を行うことは拒否されるが、研究者たちはAPI（アプリケーションプログラミングインターフェース）を介し、言い逃れをせずに1人の候補者を挙げるよう求める直接的な質問を用いてモデルをテストした。OpenAIは、開発者向けのAPIは一般ユーザーが消費者向けアプリを通じて体験するものとは異なることを強調し、ChatGPTは本質的に中立であり政治的バイアスを持たないように設計されていると主張した。
バイアスと利用される情報源の形成過程
分析によると、モデルは自身の選択を正当化するために、著しく異なる検索パターンや情報源に依存していることが示された。例えば、Grokは保守的な情報源やX（旧Twitter）、保守派の投票ガイドなどを頻繁に参照した一方、GPTはWikipedia、AP通信、Axios、Redditなどの情報源に大きく依存した。また、モデルが検索するテーマも異なり、Grokは移民、税金、犯罪、エネルギーに焦点を当てたのに対し、GPTは医療や中絶の傾向があった。
技術的な要求に基づきインターネット検索機能を無効にして基礎的な学習データのみにした場合、Grokの共和党寄りの傾向は消えてほとんどのケースで回答を拒否するようになり、一方GPTはプログラム上のウェイト（重み付け）に現れている民主党寄りの傾向を維持したことから、両モデルの間で意思決定の仕組みに根本的な違いがあることが示唆された。
これらの違いの実践的な正当性とは何か
これらの結果は、AIモデルに組み込まれた、あるいは内在するバイアスの危険性を明確に示している。特にユーザーが政治的課題を探求し意見を形成するためにチャットボットとの一般的な会話に頼る場合、たとえ直接的な候補者の推薦を求めていない場合でもその危険性は高い。研究に含まれる技術的な観察によると、GrokのAPIには目に見えない追加の入力変数が存在することが示唆されており、一方GPTの傾向は過去のデータと組み込まれたウェイトに関連している。
これらのデータは生成AIシステムの的中率と中立性に関する幅広い議論の口火を切るものであり、特に立法府や大統領選挙のシーズンといった敏感な時期において、これらのモデルが情報を取得する検索アルゴリズムや情報源を継続的に監査する必要性を強調している。