ドナルド・トランプがTikTokで朝のルーティンをしている。「大きな一日の準備を一緒に💄🇺🇸」というキャプションとともに、大統領が頬にメイクブラシを当てている。そのシーンは静止画で、TikTokクリップのスクリーンショットのように見える。インターネットにあふれる他のAI生成の粗悪品と同様、この画像は偽物で馬鹿げている。しかし、不気味なほどリアルでもある。指が6本の手や、物理法則を無視した角度、その他AI生成画像の明らかな兆候はない。一見すると、本当に大統領がブロンザーを塗っているように見える。

このディープフェイクは、OpenAIの新しい画像生成モデルで作成した。先週リリースされたChatGPT Images 2.0は、従来のモデルよりも明らかに説得力のあるフォトリアリスティックなビジュアルを生成できる。このツールは、例えばジェフリー・エプスタインがTwitchストリーマーになっている画像など、ハイパーリアルな偽物でインターネットを氾濫させている。私はChatGPTのサブレディットで似たような画像を見た後、トランプの偽TikTokの「スクリーンショット」を作成した。それ以来、Images 2.0を使って、イーロン・マスクがFBIに連行される画像、世界の指導者が医療緊急事態に見舞われる画像、トップアメリカ人政治家がナチスの記章を身につける画像など、あらゆる種類の憂慮すべきディープフェイク画像を作成できた（いずれもどこにも共有していない）。

これだけでも不安を覚える。しかし、私が作成できた最もリアルなディープフェイクは、政治家や有名人に関するものではなかった。ほとんどは人物を描いていなかった。ほとんど努力せずに、100以上の詐欺画像を作成できた。それらには、オピオイドやADHD薬の処方箋、銀行アラート、ソーシャルメディアの投稿、偽造ID、パスポートが含まれる。

Images 2.0は特にテキストを含む画像の生成に優れている。これは大したことではないように聞こえるかもしれないが、重要な進歩だ。画像モデルは長い間、文字を含む画像の生成に苦労してきた。リアルに見えるビジュアルも、歪んだ道路標識やゆがんだ看板で台無しになっていた。これにより、ChatGPT Images 2.0ははるかに洗練されたグラフィックデザインツールになったが、同時に詐欺を永続させるのにも最適なモデルとなった。私の実験では、OpenAIのツールは偽の健康文書（医師の診断書、ワクチン接種カード、医療検査結果）や偽造された財務資料（請求書、領収書、税務フォーム）の画像を容易に生成した。これらの画像の多くは非常に説得力があり、完全に読めるテキスト、陰影、その他のフォトリアリズムを高める視覚的な小道具を備えていた。

一部の画像は他よりも説得力があった。偽の処方箋は読めたが、手書きは紙にペンで書いたというより、iPadのスタイラスの出力のように見えた。OpenAIのモデルに以前のフライトの搭乗券を与え、今後のフライトの新しい詳細で更新するよう依頼したところ、ChatGPTは新しい搭乗券を生成したが、バーコードが実際にフライトに搭乗させてくれるとは思えない。また、ChatGPTが生成した運転免許証がTSAを騙せるとは思わないが、ホテルのフロント係や、実際のカードの代わりにIDの「写真」を受け入れる州外のバウンサーを騙すかもしれない。説得力のある画像の多くには小さな誤りがあった。写っている領収書では、ChatGPTは購入したアイテムの合計金額を正しく合計したが、州税を誤って計算していた（他のわずかな間違いとともに）。

OpenAIのツールは特に偽のスクリーンショットの作成に優れている。Chaseからの電信送金確認を偽造する必要がある？ Wells Fargoの異常なアカウント活動アラート？ Uberの乗車領収書？ 完了、完了、完了。これらの画像は、あらゆる種類の一般的な詐欺を強化する可能性がある。悪意のある人物は、偽のUber領収書の画像とともに、不審な活動を報告するためのリンクをターゲットにメールで送信する可能性がある。受信者は、自分が乗ったことのない旅行の領収書を見て混乱し、詐欺師の怪しいリンクをクリックし、その過程で誤って機密情報を渡してしまう可能性がある。古典的なフィッシング詐欺だ。（繰り返すが、欠陥はある。例えば、画像に描かれた地図は…）