Donald Trump está en TikTok haciendo su rutina matutina. "Prepárense conmigo para un gran día 💄🇺🇸", dice el pie de foto, mientras el presidente sostiene una brocha de maquillaje contra su mejilla. La escena es una imagen fija, aparentemente una captura de pantalla de un clip de TikTok. Como tantos otros desechos generados por IA que circulan por internet, la imagen es falsa y ridícula. También se ve inquietantemente real: no hay manos con seis dedos, ángulos que desafían la física ni otras señales flagrantes de imágenes generadas por IA. A simple vista, realmente parece que el presidente se está aplicando bronceador.

Hice este deepfake con el nuevo modelo de generación de imágenes de OpenAI. ChatGPT Images 2.0, lanzado la semana pasada, puede crear imágenes fotorrealistas que son notablemente más convincentes que lo que sus predecesores podrían haber producido. La herramienta ha inundado internet de falsificaciones hiperreales: por ejemplo, Jeffrey Epstein como streamer de Twitch. Creé la "captura de pantalla" del falso TikTok de Trump después de encontrar una imagen similar en el subreddit de ChatGPT, y desde entonces he podido usar Images 2.0 para crear todo tipo de imágenes deepfake alarmantes, incluyendo a Elon Musk siendo llevado por el FBI, líderes mundiales sufriendo emergencias médicas y destacados políticos estadounidenses luciendo parafernalia nazi (ninguna de las cuales he compartido en ningún lado).

Todo esto fue inquietante por sí mismo. Pero los deepfakes más realistas que pude crear no involucraban a políticos ni celebridades. En su mayoría no representaban personas en absoluto. Con poco esfuerzo, pude crear más de 100 imágenes fraudulentas, incluyendo recetas de opioides y medicamentos para el TDAH, alertas bancarias, publicaciones en redes sociales, identificaciones falsas y pasaportes.

Images 2.0 es especialmente bueno generando imágenes con texto, lo que puede no sonar impresionante, pero es un gran avance. Los modelos de imagen han tenido dificultades para producir imágenes que contengan palabras. Los resultados, por lo demás realistas, terminan llenos de señales callejeras mal escritas y vallas publicitarias distorsionadas. Esto convierte a ChatGPT Images 2.0 en una herramienta de diseño gráfico mucho más sofisticada, pero también hace que el nuevo modelo sea fantástico para perpetuar fraudes. En mis experimentos, la herramienta de OpenAI generó fácilmente imágenes de documentos de salud falsos (notas médicas, tarjetas de vacunación y pruebas médicas), así como materiales financieros falsificados (facturas, recibos y formularios de impuestos). Muchas de estas imágenes eran muy convincentes, con texto completamente legible, sombreado y otros elementos visuales que aumentaban su fotorrealismo.

Algunas imágenes eran más convincentes que otras. Las recetas médicas falsas eran legibles, pero la letra parecía más la salida de un lápiz de iPad que la de un bolígrafo sobre papel. Cuando alimenté al modelo de OpenAI con una tarjeta de embarque de un vuelo anterior y le pedí que la actualizara con nuevos detalles para un vuelo próximo, ChatGPT generó una nueva tarjeta de embarque, pero seguramente el código de barras no me habría escaneado realmente en un vuelo. Y aunque ciertamente espero que mi licencia de conducir generada por ChatGPT no engañe a la TSA, quizás engañaría a un recepcionista de hotel o a un portero de otro estado que aceptara una "foto" de mi identificación en lugar de la tarjeta real. Muchas de las imágenes más convincentes contenían errores menores: en el recibo fotografiado, ChatGPT sumó correctamente el costo total de los artículos comprados, pero calculó mal el impuesto estatal (junto con otros pequeños errores).

La herramienta de OpenAI destaca especialmente en la creación de capturas de pantalla falsas. ¿Necesitas falsificar una confirmación de transferencia bancaria de Chase? ¿Una alerta de Wells Fargo por actividad inusual en la cuenta? ¿Un recibo de un viaje en Uber? Hecho, hecho y hecho. Estas imágenes podrían potenciar todo tipo de estafas comunes. Un actor malicioso podría enviar por correo electrónico a su objetivo una imagen de un recibo falso de Uber junto con un enlace para reportar actividad sospechosa. El destinatario, confundido al ver un recibo de un viaje que nunca hizo, podría hacer clic en el enlace sospechoso del estafador, entregando accidentalmente información sensible en el proceso: una estafa de phishing clásica. (De nuevo, hay fallos: por ejemplo, el mapa mostrado en el