도널드 트럼프 미국 대통령은 정부 정보와 관련 서비스에 대한 접근을 간소화하기 위한 대화형 인터페이스 America.gov의 출시를 발표했다. 이 서비스에는 Google과 Gemini 모델이 참여하며, 한 정부 관계자에 따르면 Grok도 사용된다. 사용자가 비자, 세금 및 복지에 관한 모델의 답변에 의존할 경우 환각 위험이 발생할 수 있다는 우려가 제기된다.
도널드 트럼프 미국 대통령은 2026년 9월 29일 시민들이 정부 서비스와 관련 정보를 찾을 수 있도록 지원하는 인공지능 기반 대화형 서비스 America.gov의 출시를 발표했다. 이 이니셔티브는 사용자가 수만 개에 이르는 정부 웹사이트와 규정 및 절차를 오가도록 요구하는 대신 단일 진입 지점을 제공하는 것을 목표로 한다.
Google은 출시에 참여한다고 확인했으며, 자사의 Gemini 모델이 서비스 내에서 사용된다고 밝혔다. 미국의 최고 디자인 책임자인 Joe Gebbia는 정부가 Grok도 사용했다고 덧붙였다. 그러나 출처는 이 모델들 사이의 기술적 통합 범위나 America.gov가 사용자에게 답변을 표시하기 전에 이를 검증하기 위해 사용할 메커니즘을 설명하지 않았다.
왜 중요한가?
이 이니셔티브는 실제 문제를 겨냥한다. 즉, 여러 웹사이트와 분산된 절차 속에서 올바른 정부 정보를 찾기 어렵다는 문제다. 그러나 이 작업을 대규모 언어 모델에 의존하는 인터페이스로 전환하면 문제의 일부가 다른 질문으로 옮겨간다. 사용자가 받는 답변이 얼마나 정확한지, 그 출처와 최신성이 얼마나 명확한지가 그것이다.
이 자료는 언어 모델이 오류에서 자유롭지 않으며 허위이거나 부정확한 정보를 생성할 수 있다고 경고한다. 정부 서비스에서는 오류가 단순히 불편한 답변에 그치지 않을 수 있다. 식량 지원 신청, 비자 갱신 또는 세금 신고에 관한 부정확한 정보에 의존한 사용자는 마감일을 놓치거나 혜택을 받지 못하거나 처벌을 받을 수 있다.
실제로 무엇이 달라지는가?
America.gov가 이해하기 쉬운 방식으로 사용자를 공식 정보로 안내하는 데 성공한다면, 적절한 양식과 절차를 찾는 데 필요한 시간을 줄일 수 있다. 그러나 출처는 인간 검토 절차, 원래의 정부 링크를 표시하는 방식, 주 또는 사용자의 법적 지위에 따라 달라지는 상황을 처리하는 방법에 관한 세부 정보를 제공하지 않는다.
이 자료는 CNN이 보도한 사례를 언급한다. 미군이 중국 선박이 핵무기 부품을 운반한다고 잘못 판단했으며, 추정된 위협이 인공지능의 환각에서 비롯된 사실을 발견한 뒤 마지막 순간에 무력 작전을 취소했다는 내용이다. 이것이 America.gov가 동일한 결과를 초래한다는 의미는 아니지만, 모델 기반 시스템의 오류가 중대한 결과를 수반하는 결정으로 이어질 수 있음을 보여준다.
남은 질문
이번 발표만으로 America.gov가 모든 상황에서 신뢰할 수 있는 지침을 제공할 수 있다는 점이 입증되는 것은 아니다. 서비스의 품질은 정보를 업데이트하는 능력, 답변을 공식 출처에 연결하는 방식, 답변이 확실하지 않을 때 사용자에게 알리는 기능, 법적 또는 재정적 조치를 취하기 전에 직접 확인할 수 있는 명확한 경로를 제공하는지에 달려 있다.