도널드 트럼프 대통령은 화요일 백악관이 America.gov를 출시한다고 발표했다. 시민들이 정부 서비스와 정보를 찾아다니는 것을 돕기 위해 설계된 AI 챗봇이다. 가끔 없는 말을 지어내는 기계에 미로 찾기를 맡긴다고 해서 "효율적인 관료제"가 되는 건 아니지만 말이다.

구글은 이번 출시의 파트너이며 자사의 AI 모델인 Gemini가 참여한다고 확인했다. 다른 AI 기업들이 기여했는지는 불분명하다. 아니면 이 특정 실험에 자기 이름을 올리고 싶지 않았을 수도 있다.

트럼프는 X 게시물에서 "시민들이 수만 개의 정부 웹사이트와 규칙이라는 끝없는 미로를 뒤지도록 강요하는 대신… 이제 모든 질문을 위한 단 하나의 정문이 생긴다"라고 말했다. 정문 하나, 그렇다. 다만 그 문이 올바른 방으로 열리는지는 전혀 다른 문제다.

정부 서비스를 더 쉽게 찾을 수 있게 하는 것은 가치 있는 목표다. 하지만 AI 챗봇이 이를 위한 최선의 방법일까? 대규모 언어 모델은 완벽하지 않으며 여전히 환각 현상에 취약하다. 실제로 CNN은 최근 미군이 핵무기 부품을 운반한다고 믿었던 중국 선박에 대해 무장 작전을 거의 개시할 뻔했다고 보도했다. 군은 해당 위협이 그저 AI 환각이었음을 깨닫고 마지막 순간에 작전을 중단했다.

누군가 America.gov에서 잘못된 정보를 받는다고 해서 핵전쟁이 촉발되지는 않겠지만, 실수는 여전히 심각한 결과를 초래할 수 있다. 사람들은 푸드 스탬프 신청, 비자 갱신, 세금 신고에 관한 정보를 얻기 위해 이 챗봇에 의존할 수 있다. 여기서 오류가 발생하면 마감일을 놓치거나 혜택이 거부되거나 벌금을 물 수 있다. 그러니까, 정부를 상대할 때의 늘상 있는 위험에 이제 예측 불가능성까지 더해진 셈이다.