Дональд Трамп на TikTok делает утреннюю рутину. «Готовьтесь со мной к большому дню 💄🇺🇸», — гласит подпись, пока президент держит кисть для макияжа у щеки. Сцена — это стоп-кадр, якобы скриншот клипа TikTok. Как и множество другого AI-мусора, циркулирующего в интернете, изображение фальшиво и нелепо. Оно также выглядит тревожно реальным: нет рук с шестью пальцами, неестественных углов или других явных признаков AI-сгенерированного изображения. При беглом взгляде действительно кажется, что президент наносит бронзатор.

Я создал этот дипфейк с помощью новой модели генерации изображений OpenAI. ChatGPT Images 2.0, выпущенная на прошлой неделе, может создавать фотореалистичные изображения, заметно более убедительные, чем то, что могли создать её предшественники. Инструмент наводнил интернет гиперреалистичными подделками: например, Джеффри Эпштейн в роли стримера на Twitch. Я создал «скриншот» фальшивого TikTok Трампа после того, как наткнулся на похожее изображение в сабреддите ChatGPT, и с тех пор смог использовать Images 2.0 для создания всевозможных тревожных дипфейков — включая Элона Маска, увозимого ФБР, мировых лидеров, переживающих неотложные медицинские состояния, и ведущих американских политиков в нацистской атрибутике (ни одно из них я нигде не публиковал).

Всё это было тревожно само по себе. Но самые реалистичные дипфейки, которые мне удалось создать, не касались политиков или знаменитостей. В основном они вообще не изображали людей. Без особых усилий я смог создать более 100 мошеннических изображений, включая рецепты на опиоиды и лекарства от СДВГ, банковские оповещения, посты в соцсетях, поддельные удостоверения личности и паспорта.

Images 2.0 особенно хороша в генерации изображений с текстом — это может не звучать впечатляюще, но это большое дело. Модели изображений долго боролись с созданием картинок, содержащих слова. Иначе реалистичные изображения оказывались усеяны испорченными дорожными знаками и искажёнными рекламными щитами. Это делает ChatGPT Images 2.0 гораздо более сложным инструментом графического дизайна — но также делает новую модель отличной для мошенничества. В моих экспериментах инструмент OpenAI легко генерировал изображения поддельных медицинских документов (записок врача, прививочных карт и медицинских тестов), а также поддельных финансовых материалов (счетов, квитанций и налоговых форм). Многие из этих изображений были весьма убедительными, с полностью читаемым текстом, тенями и другими визуальными элементами, повышающими их фотореалистичность.

Некоторые изображения были более убедительными, чем другие. Поддельные медицинские рецепты были читаемы, но почерк больше напоминал вывод стилуса iPad, чем ручку на бумаге. Когда я загрузил в модель OpenAI посадочный талон со старого рейса и попросил бота обновить его с новыми деталями для предстоящего рейса, ChatGPT сгенерировал новый посадочный талон — но, конечно, штрих-код вряд ли бы действительно зарегистрировал меня на рейс. И хотя я, безусловно, надеюсь, что мои водительские права, сгенерированные ChatGPT, не обманут TSA, возможно, они обманут администратора отеля или вышибалу в другом штате, который примет «фото» моего удостоверения вместо реальной карты. Многие из более убедительных изображений содержали мелкие ошибки — на изображённой квитанции ChatGPT правильно суммировал общую стоимость купленных товаров, но неправильно рассчитал налог штата (наряду с другими небольшими ошибками).

Инструмент OpenAI особенно хорош в создании поддельных скриншотов. Нужно сфабриковать подтверждение банковского перевода от Chase? Оповещение Wells Fargo о подозрительной активности на счёте? Квитанцию о поездке на Uber? Готово, готово и готово. Эти изображения могут ускорить всевозможные распространённые схемы мошенничества. Злоумышленник может отправить своей жертве по электронной почте изображение поддельной квитанции Uber вместе со ссылкой для сообщения о подозрительной активности. Получатель, сбитый с толку, увидев квитанцию за поездку, которую он никогда не совершал, может затем нажать на подозрительную ссылку мошенника, случайно передав конфиденциальную информацию — классическая фишинговая атака. (Опять же, есть недостатки: например, карта, изображённая на квитанции, может быть неточной.)