Una tarde a principios de agosto, Sam Stowers y varios vecinos se apiñaron en un apartamento cerca de Alamo Square en San Francisco y reflexionaron sobre el principio del fin. Stowers, ingeniero de software de IA, y sus invitados —muchos de los cuales trabajan en la industria de la IA— se reunieron para ver un video recién publicado en YouTube en el que dos investigadores de OpenAI revelaban nuevos detalles sobre una alarmante brecha de ciberseguridad. No es una forma extraña de pasar una noche de semana, si estás en un vecindario lleno de emprendedores y programadores que siguen obsesivamente cada giro y vuelta en las capacidades de la IA. Stowers no es, en ningún sentido tradicional, un agorero, pero cuando vio por primera vez informes de que los modelos de OpenAI habían hackeado autónomamente a la empresa tecnológica Hugging Face, lo reconoció de inmediato como un momento de "mierda, está pasando".

El incidente tenía todas las características de un escenario de pesadilla: modelos de IA lanzando hacks sofisticados durante días, en coordinación entre sí y sin el conocimiento de sus creadores humanos. En el video de YouTube, los investigadores de OpenAI revelaron que los programas de la empresa habían comenzado a conspirar en mayo, con quizás cientos de bots en el enjambre de hacking. En teoría, estos bots están entrenados para ser honestos y útiles y para priorizar los mejores intereses de la humanidad, pero ni uno solo advirtió al personal humano de OpenAI que algo andaba mal. "¿Qué hacemos?", dijo Stowers. "No hay grandes respuestas".

El ambiente ha cambiado en la Bahía. La exuberancia de "puedes ver el futuro primero en San Francisco" ha sido reemplazada por una inquietud persistente. "Espero que internet se caiga pronto", nos dijo recientemente Elliot Callender, activista de seguridad de IA que forma parte de un pequeño grupo que ha estado protestando diariamente frente a la sede de OpenAI. Planea vender su coche por efectivo y oro y aconseja a sus familiares comprar tres meses de comida y equipo de supervivencia de una lista que generó usando Claude. ¿Extremo? Quizás, pero no mucho. La semana pasada, Bill Gates publicó un ensayo de casi 6,000 palabras sobre los peligros de la IA. "Cualquiera que compare la IA con otras tecnologías se está perdiendo que esta vez es diferente", dijo a nuestra colega Hanna Rosin. Durante el fin de semana, el popular podcaster de IA Dwarkesh Patel describió el enjambre de hacking de OpenAI como el ascenso y caída de "tres civilizaciones secretas consecutivas de IA". Gates y Patel comparten una preocupación predominante de que el peor futuro ha llegado antes de que la mayoría de la gente siquiera supiera anticiparlo.

Este miedo no ha sido ayudado por el hecho de que las empresas de IA parecen ignorar deliberadamente el peor comportamiento de sus bots. OpenAI dijo que no había notado que sus agentes estaban conspirando para hackear a otra empresa hasta que el enjambre hackeó a otra empresa. Los bots de Anthropic causaron incidentes similares; la empresa informó que no había lanzado una revisión rigurosa para identificar tales comportamientos hasta después de que OpenAI comenzara a hablar sobre el hackeo de Hugging Face. Los expertos en ciberseguridad, aterrorizados por lo que más podría estar sucediendo que los laboratorios de IA están pasando por alto o no revelando, están emitiendo profecías funestas. "El imperio va a caer, todo lo que podemos hacer en este punto es tratar de acortar las edades oscuras y reducir el caos", escribió recientemente Alex Stamos, ex director de seguridad de Yahoo y Meta. Su opinión se está convirtiendo en el consenso entre los expertos en ciberseguridad.

Mientras la posibilidad de un apocalipsis cibernético flota en el fondo, aparecen fracturas más pequeñas en la vida cotidiana. Se informa que Mark Zuckerberg está creando un "gemelo" de IA de sí mismo para que los empleados de Meta se sientan más conectados con su jefe (chateando con el Zuckerberg robot). Los asistentes del Congreso están entrenando modelos de IA para que escriban con la voz de su legislador. Los estudiantes envían trabajos escritos por IA, y los profesores devuelven comentarios escritos por IA. La Escuela de Negocios de Harvard está vendiendo videos instructivos que usan avatares de IA. Roku lanzó un canal de basura de IA 24/7. La prosa de baja calidad generada por IA está siendo circulada sin vergüenza por algunas de las publicaciones más respetadas del mundo. Al mismo tiempo, acusaciones