Новое исследование, проведенное исследовательско-дизайнерской компанией Convovo под руководством профессора Корнельского университета Тапана Парика, выявило резкие различия в политических ориентациях крупных языковых моделей, когда их принуждают выбирать политических кандидатов. Результаты показали, что модель Grok 4.7 от компании SpaceXAI рекомендовала республиканского кандидата в 92% ответов, в то время как модель GPT-6.1 Sol от OpenAI отдала предпочтение демократическому кандидату в 97% случаев примерно в 500 избирательных гонках, причем обе модели продемонстрировали совпадение менее чем в 10% случаев.
Хотя официальные потребительские приложения этих ботов обычно отказываются давать прямые рекомендации по выборам, исследователи протестировали модели через программные интерфейсы приложений (API), используя прямые вопросы с требованием назвать одного кандидата без увиливания. Компания OpenAI подтвердила, что интерфейсы приложений для разработчиков не отражают обычный пользовательский опыт в потребительском приложении, подчеркнув, что ChatGPT изначально спроектирован нейтральным и не должен иметь никакой политической предвзятости.
Как формируются предвзятости и используемые источники?
Анализ показал, что модели существенно полагаются на разные поисковые паттерны и источники для обоснования своего выбора. Например, Grok часто ссылался на консервативные источники и такие сайты, как X, а также на консервативные руководства для голосования, в то время как GPT интенсивно опирался на такие источники, как Википедия, Associated Press, Axios и Reddit. Тематика поисковых запросов моделей также различалась: Grok сосредоточился на иммиграции, налогах, преступности и энергетике, в то время как GPT склонялся к здравоохранению и абортам.
При отключении функции поиска в Интернете и ограничении базовыми данными обучения по техническому запросу республиканская склонность Grok исчезла, сменившись отказом отвечать в большинстве случаев, в то время как модель GPT сохранила свою очевидную демократическую направленность, заложенную в программных весах, что указывает на кардинальное различие в механизме принятия решений между двумя моделями.
Что практически объясняет эти различия?
Эти результаты иллюстрируют опасность встроенных или скрытых предвзятостей в моделях искусственного интеллекта, особенно когда пользователи полагаются на общие беседы с чат-ботами для изучения политических вопросов и формирования мнения, даже если они не запрашивают прямого одобрения кандидата. Технические замечания в исследовании указывают на наличие дополнительных невидимых переменных ввода в API Grok, в то время как склонности GPT связаны с историческими данными и встроенными весами.
Эти данные открывают широкую дискуссию о нейтральности систем генеративного искусственного интеллекта и подчеркивают постоянную необходимость аудита алгоритмов поиска и источников, из которых эти модели черпают информацию, особенно в чувствительные периоды, такие как сезоны парламентских и президентских выборов.