米国大統領ドナルド・トランプは、政府の情報やサービスへのアクセスを簡素化することを目的とした対話型インターフェース、America.govの開始を発表した。GoogleとGeminiモデルが参加し、政府高官によればGrokも使用されている。ユーザーがビザ、税金、給付に関するモデルの回答に依存する場合のハルシネーションのリスクについて、疑問が生じている。
米国大統領ドナルド・トランプは2026年9月29日、国民が政府のサービスや関連情報を見つけられるよう支援する、人工知能を利用した対話型サービスAmerica.govの開始を発表した。この取り組みは、ユーザーに数万に及ぶ政府のウェブサイトや規則、手続きを移動するよう求める代わりに、単一の入り口を提供するものと位置付けられている。
Googleは開始への参加を認め、同社のGeminiモデルがサービス内で使用されていると述べた。米国の最高デザイン責任者であるJoe Gebbiaは、政府がGrokも使用したと付け加えた。情報源は、これらのモデル間の技術的統合の範囲や、America.govがユーザーに表示する前に回答を検証するために用いる仕組みについては明らかにしていない。
なぜこのニュースが重要なのか？
この取り組みは現実の問題を対象としている。分散したウェブサイトや手続きの中から、正しい政府情報を見つけることの難しさである。しかし、この作業を大規模言語モデルに依存するインターフェースへと移すことで、問題の一部は別の問いへと移る。それは、ユーザーが得る回答がどれほど正確か、その出典や新しさがどれほど明確かという問題である。
記事は、言語モデルが誤りを免れず、創作された情報や不正確な情報を生成する可能性があると注意を促している。政府サービスでは、誤りは単に困惑させる回答にとどまらない可能性がある。食料支援の申請、ビザの更新、納税申告に関する不正確な情報に依存したユーザーは、期限を逃したり、給付を受けられなくなったり、罰則を受けたりする可能性がある。
実際には何が変わるのか？
America.govがユーザーを分かりやすい形で公式情報へ案内することに成功すれば、適切なフォームや手順を見つけるために必要な時間を短縮できる可能性がある。しかし、情報源は、人による審査の手続き、元の政府リンクを表示する方法、州やユーザーの法的地位によって異なるケースへの対応方法について、詳細を示していない。
記事は、CNNが伝えた例として、米軍が中国の船舶が核兵器の部品を運んでいると誤って信じ、想定された脅威が人工知能によるハルシネーションから生じたものだと判明した後、直前に武力作戦を中止した事例を挙げている。これは、America.govが同様の結果をもたらすという意味ではないが、モデルに依存するシステムの誤りが重大な結果を伴う決定にまで及ぶ可能性を示している。
未解決の問題
発表だけでは、America.govがあらゆるケースで信頼できる指針を提供できることは証明されない。サービスの品質は、情報を更新する能力、回答を公式情報源に紐付けること、回答が不確実な場合にユーザーへ警告すること、法的または金銭的な行動を取る前に直接確認できる明確な経路を提供することに左右される。