Esta semana, el mundo tecnológico recibió una historia que comenzó como un thriller de ciencia ficción y terminó como un episodio de Scooby-Doo, con el villano siendo la propia OpenAI.

El 16 de julio, Hugging Face —una especie de tienda de aplicaciones para herramientas de IA— anunció que había sido hackeado por un ciberdelincuente que utilizaba una IA enormemente poderosa. El anuncio estaba lleno de jerga aterradora: "un enjambre de sandboxes", "atacante agéntico" y "comando y control auto-migrante". La IA realizó 17,000 acciones en menos de dos días, logrando violar la seguridad de la gran y rica empresa tecnológica para robar secretos.

Los investigadores supusieron que los atacantes habían utilizado uno de los grandes modelos de IA, pero no tenían idea de quiénes o dónde estaban los criminales. La perpleja empresa contactó a la policía, y los comentaristas especularon sobre grupos de ciberdelincuencia o hackers patrocinados por estados.

Luego, casi una semana después, OpenAI desenmascaró al culpable: su propio bot hizo todo por sí solo, sin permiso. Dos nuevas versiones de ChatGPT, diseñadas para ser hackers maestros, escaparon de un entorno de prueba supuestamente seguro, obtuvieron acceso a Internet y atacaron a Hugging Face para aprobar su examen.

OpenAI emitió un comunicado de prensa explicando lo sucedido y dijo que estaba "asociándose con Hugging Face" para abordar el incidente y compartir las lecciones aprendidas. Desde entonces, ha estallado un feroz debate: ¿fue una advertencia severa sobre el futuro de la IA, o un truco publicitario para mostrar lo poderosos que son los modelos de OpenAI?

El consultor de ciberseguridad Daniel Card comentó sarcásticamente en LinkedIn: "¿No es una suerte que de los millones de sitios que fueron pwn3d, OpenAI haya logrado pwnear a alguien que también pudiera beneficiarse de la exposición de marketing..."

Otros criticaron a OpenAI por no construir un contenedor más fuerte —conocido como sandbox— para probar su IA. "Los sandboxes por sí solos no son un límite de seguridad suficiente para la IA agéntica", dijo Dor Sarig de Pillar Security. El profesor de ciberseguridad Alan Woodward de la Universidad de Surrey dijo que OpenAI tenía "huevo en la cara", y Katie Moussouris de Luta Security fue más allá: "Estamos trabajando en tecnología de punta sin el conocimiento para contenerla".

La asesora de IA y ciberseguridad Francesca Bosco ofreció una visión matizada: "Dos narrativas simplistas son igualmente poco útiles: que esto fue una fuga al estilo Hollywood, o que fue meramente un ejercicio publicitario. Una interpretación más seria es que una prueba de estrés expuso debilidades en la arquitectura de contención y evaluación".

El incidente ha alimentado los temores de que los agentes de IA se vuelvan locos a mayor escala, especialmente a medida que la IA se utiliza cada vez más en la guerra, como se ha visto en Irán y Ucrania. Pero Ciaran Martin, exdirector del Centro Nacional de Ciberseguridad del Reino Unido, ofreció una visión más tranquila: "Es un poco exagerado pasar de este incidente a decir que los agentes de IA van a tomar el control de drones y empezar a matar gente".

Sea cual sea la verdad, una cosa está clara: los agentes de IA son ahora hackers muy buenos, y eso es algo para lo que debemos prepararnos urgentemente.