David Robinson, quien solía escribir los informes de seguridad que acompañaban cada lanzamiento importante de modelo en OpenAI, renunció esta semana y ha hecho públicas sus preocupaciones en un editorial en The Atlantic. Sí, es otro de estos. No, no te equivocas al sentir un poco de cinismo hacia las personas que nos advierten sobre lo mismo que ayudaron a construir. Pero las advertencias, desafortunadamente, siguen valiendo la pena leerlas.

El argumento de Robinson es que el problema no es una regla faltante o una regulación laxa aquí y allá, sino la cultura misma. Silicon Valley, dice, funciona con "confianza extrema" y "sprints perpetuos", produciendo modelos más grandes y mejores con "optimismo sin trabas" mientras ignora o subestima los problemas potenciales que esos modelos traen consigo.

Su solución propuesta no es sutil. Las empresas de IA, argumenta, necesitan humildad y disposición para mirar más allá del mundo insular y de "moverse rápido y romper cosas" de la tecnología. Específicamente, dice que los laboratorios de frontera deberían operar menos como startups y más como plantas de energía nuclear o aeropuertos concurridos, con capas de redundancia y una planificación cuidadosa que consume tiempo, para que el error humano ocasional e inevitable no abra una puerta al desastre.

Robinson es el último en un desfile cada vez más largo de investigadores y trabajadores de seguridad que abandonan empresas prominentes de IA. Jacob Coxon parece haber iniciado el éxodo al renunciar a Anthropic y luego declarar públicamente que la IA "podría matarnos a todos para el final de la década". Le siguieron Robert O'Callahan, Bilal Chughtai y Josh Engels en Google DeepMind, junto con Joe Benton en Anthropic.