Во вторник президент Дональд Трамп объявил, что Белый дом запускает America.gov — ИИ-чат-бот, призванный помочь людям ориентироваться в государственных услугах и информации. Потому что ничто так не говорит об «эффективной бюрократии», как передача лабиринта машине, которая время от времени выдумывает несуществующее.

Google подтвердил, что является партнёром запуска и что его ИИ-модель Gemini задействована. Остаётся неясным, внесли ли вклад другие ИИ-компании или они просто не захотели ставить свои имена на этом конкретном эксперименте.

«Вместо того чтобы заставлять граждан искать через бесконечный лабиринт десятков тысяч правительственных сайтов и правил… теперь у вас будет одна входная дверь для любого вопроса», — сказал Трамп в посте на X. Одна входная дверь, да — хотя откроется ли она в нужную комнату, это совсем другой вопрос.

Сделать государственные услуги проще для навигации — достойная цель. Но ИИ-чат-бот — лучший ли это способ? Большие языковые модели не безошибочны и по-прежнему склонны к галлюцинациям. Фактически, CNN недавно сообщил, что вооружённые силы США почти начали вооружённую операцию против китайского судна, которое, как они считали, перевозило компоненты для ядерного оружия. Военные отменили миссию в последнюю минуту, осознав, что предполагаемая угроза была всего лишь ИИ-галлюцинацией.

Если кто-то получит ошибочную информацию от America.gov, это, вероятно, не вызовет ядерной войны. Но ошибка всё равно может иметь серьёзные последствия. Люди могут полагаться на этого чат-бота для доступа к информации о подаче заявки на продовольственные талоны, продлении визы или подаче налоговой декларации — где ошибки могут означать пропущенные сроки, отказ в льготах или штрафы. Так что, знаете, обычные ставки в общении с государством, теперь с добавленной непредсказуемостью.