唐纳德·特朗普正在TikTok上做他的晨间例行公事。“准备好和我一起迎接大日子💄🇺🇸，”配文写道，总统正拿着化妆刷往脸颊上涂抹。这个场景是一张静态图片，看起来像是TikTok视频的截图。就像互联网上泛滥的许多其他AI生成垃圾一样，这张图片是假的，而且荒谬可笑。但它也令人不安地逼真：没有六根手指的手、违反物理定律的角度，或其他明显的AI生成图像迹象。乍一看，总统真的像是在涂古铜色粉饼。

我用OpenAI的新图像生成模型制作了这个深度伪造。上周发布的ChatGPT Images 2.0可以创建照片级逼真的视觉效果，明显比其前代产品更令人信服。该工具用超逼真的伪造品淹没了互联网：例如，杰弗里·爱泼斯坦作为Twitch主播。我在看到ChatGPT子版块上的一张类似图片后，创建了特朗普假TikTok的“截图”，此后我能够使用Images 2.0创建各种令人震惊的深度伪造图像——包括埃隆·马斯克被联邦调查局带走、世界领导人遭遇医疗紧急情况、以及美国顶级政客佩戴纳粹标志（这些我都没有在任何地方分享过）。

这本身就令人不安。但我能够创建的最逼真的深度伪造并不涉及政治家或名人。它们大多根本不描绘人物。几乎不费吹灰之力，我就创建了100多张欺诈性图片，包括阿片类药物和ADHD药物的处方、银行警报、社交媒体帖子、假身份证和护照。

Images 2.0特别擅长生成包含文字的图像——这听起来可能不令人印象深刻，但意义重大。图像模型长期以来一直难以生成包含文字的图片。否则逼真的视觉效果最终会布满错误的街道标志和扭曲的广告牌。这使得ChatGPT Images 2.0成为更复杂的图形设计工具——但也使新模型非常适合进行欺诈。在我的实验中，OpenAI的工具轻松生成了伪造的健康文件（医生证明、疫苗接种卡和医学测试）以及伪造的财务材料（发票、收据和税表）的图像。其中许多图像非常有说服力，完全可读的文字、阴影和其他视觉道具增加了它们的照片真实感。

有些图像比其他图像更令人信服。假医疗处方字迹清晰，但笔迹看起来更像是iPad手写笔的输出，而不是纸上的笔迹。当我将旧航班的登机牌输入OpenAI的模型，并让机器人用即将到来的航班的新详细信息更新它时，ChatGPT生成了一个新的登机牌——但条形码肯定不能真的让我登机。而且，虽然我当然希望我的ChatGPT生成的驾照不会骗过TSA，但也许它能骗过酒店前台或州外门卫，他们会接受我身份证的“照片”而不是实体卡。许多看起来更有说服力的图像包含小错误——在图片收据中，ChatGPT正确总结了购买物品的总成本，但计算错了州税（以及其他小错误）。

OpenAI的工具尤其擅长创建假截图。需要伪造来自Chase的电汇确认？富国银行关于异常账户活动的警报？优步行程收据？搞定，搞定，搞定。这些图像可以助长各种常见骗局。不良行为者可以向目标发送一封电子邮件，其中包含一张假优步收据图片，以及一个报告可疑活动的链接。收件人对从未乘坐过的行程收据感到困惑，可能会点击欺诈者的可疑链接，从而意外泄露敏感信息——典型的网络钓鱼诈骗。（同样，存在缺陷：例如，图片中显示的地图……）