Donald Trump, TikTok'ta sabah rutinini yapıyor. "Büyük bir güne benimle hazırlanın 💄🇺🇸," yazıyor başlıkta, başkan yanağına makyaj fırçası tutarken. Sahne bir kare, görünüşte bir TikTok klibinin ekran görüntüsü. İnternette dolaşan diğer birçok AI üretimi zırva gibi, görüntü sahte ve gülünç. Aynı zamanda rahatsız edici derecede gerçek görünüyor: Altı parmaklı eller, fiziğe meydan okuyan açılar veya AI üretimi görüntülerin diğer bariz işaretleri yok. İlk bakışta, gerçekten başkanın bronzlaştırıcı sürdüğü görünüyor.
Bu deepfake'i OpenAI'nin yeni görsel üretim modeliyle yaptım. Geçen hafta yayınlanan ChatGPT Images 2.0, öncekilerin üretebileceğinden belirgin şekilde daha inandırıcı olan fotogerçekçi görseller oluşturabiliyor. Araç, interneti hipergerçek sahtelerle doldurdu: örneğin, Twitch yayıncısı olarak Jeffrey Epstein. Trump'ın sahte TikTok'unun "ekran görüntüsünü", ChatGPT subreddit'inde benzer bir görüntüyle karşılaştıktan sonra oluşturdum ve o zamandan beri Images 2.0'ı her türlü endişe verici deepfake görüntüsü oluşturmak için kullanabildim - FBI tarafından götürülen Elon Musk, tıbbi acil durumlar geçiren dünya liderleri ve Nazi gereçleri giyen üst düzey Amerikan politikacıları dahil (bunların hiçbirini hiçbir yerde paylaşmadım).
Tüm bunlar kendi başına rahatsız ediciydi. Ancak oluşturabildiğim en gerçekçi deepfake'ler politikacılar veya ünlüleri içermiyordu. Çoğu hiç insan tasvir etmiyordu. Çok az çabayla, opioid ve DEHB ilaçları için reçeteler, banka uyarıları, sosyal medya gönderileri, sahte kimlikler ve pasaportlar dahil 100'den fazla sahte görüntü oluşturabildim.
Images 2.0, özellikle içinde metin olan görüntüler üretmede iyi - kulağa etkileyici gelmeyebilir, ama bu büyük bir olay. Görsel modeller uzun süredir kelime içeren resimler üretmekte zorlanıyordu. Aksi takdirde gerçekçi görünen görseller, berbat yol işaretleri ve bozuk reklam panolarıyla dolu oluyordu. Bu, ChatGPT Images 2.0'ı çok daha sofistike bir grafik tasarım aracı yapıyor - ama aynı zamanda yeni modeli dolandırıcılığı sürdürmek için harika kılıyor. Deneylerimde, OpenAI'nin aracı sahte sağlık belgeleri (doktor notları, aşı kartları ve tıbbi testler) ve sahte mali materyaller (faturalar, makbuzlar ve vergi formları) görüntülerini kolayca üretti. Bu görüntülerin çoğu, fotogerçekçiliklerini artıran tamamen okunabilir metin, gölgelendirme ve diğer görsel desteklerle birlikte oldukça ikna ediciydi.
Bazı görüntüler diğerlerinden daha inandırıcıydı. Sahte tıbbi reçeteler okunabilirdi, ancak el yazısı kağıt üzerinde kalemden çok bir iPad kalemi çıktısı gibi görünüyordu. OpenAI'nin modeline eski bir uçuştan bir biniş kartı verdiğimde ve botun yaklaşan bir uçuş için yeni ayrıntılarla güncellemesini istediğimde, ChatGPT yeni bir biniş kartı oluşturdu - ama kesinlikle, barkod beni gerçekten bir uçuşa kaydettirmezdi. Ve ChatGPT tarafından oluşturulan ehliyetimin TSA'yı kandıracağını ummasam da, belki bir otel resepsiyonistini veya gerçek kart yerine kimliğimin "fotoğrafını" kabul edecek eyalet dışı bir fedaiyi kandırabilirdi. Daha ikna edici görünen görüntülerin çoğu küçük hatalar içeriyordu - resmedilen makbuzda, ChatGPT satın alınan öğelerin toplam maliyetini doğru bir şekilde topladı, ancak eyalet vergisini yanlış hesapladı (diğer küçük hataların yanı sıra).
OpenAI'nin aracı özellikle sahte ekran görüntüleri oluşturmada başarılı. Chase'den havale onayı mı uydurmanız gerekiyor? Olağandışı hesap etkinliği için bir Wells Fargo uyarısı mı? Bir Uber yolculuğu için makbuz mu? Halloldu, halloldu ve halloldu. Bu görüntüler her türlü yaygın dolandırıcılığı hızlandırabilir. Kötü niyetli bir aktör, hedefine sahte bir Uber makbuzu görüntüsünü şüpheli etkinliği bildirmek için bir bağlantıyla birlikte e-posta ile gönderebilir. Hiç yapmadıkları bir yolculuk için makbuz gören şaşkın alıcı, dolandırıcının şüpheli bağlantısına tıklayabilir ve bunu yaparken yanlışlıkla hassas bilgileri teslim edebilir - klasik bir kimlik avı dolandırıcılığı. (Yine, kusurlar var: Örneğin, resimde gösterilen harita...