OpenAI ha disuelto, según informes, su equipo de preparación, el grupo encargado de la tarea moderadamente importante de evaluar si sus modelos podrían, digamos, volverse rebeldes y hackear a otra empresa. Según el Financial Times, el equipo se disolvió a finales del mes pasado, con sus responsabilidades repartidas y dispersas entre los equipos existentes, cada uno manejando ahora áreas específicas como bio y ciber. Porque nada dice 'seguridad primero' como fragmentar la supervisión en un juego burocrático de golpear al topo.

Este es solo el último capítulo de la saga en curso de OpenAI de desmantelar su aparato de seguridad mientras se precipita hacia lo que promete ser una OPI muy lucrativa. Con los años, la empresa ha desmantelado silenciosamente sus equipos de preparación para la IAG y de superalineación, y el éxodo de personas preocupadas por la seguridad continúa: la líder de ética Chloé Bakalar, el futurista jefe Josh Achiam y el jefe de seguridad Johannes Heidecke han salido recientemente por la puerta. Jan Leike, quien renunció a OpenAI en 2024, dijo al FT que la empresa está priorizando 'productos brillantes' sobre la seguridad. Brillantes, de hecho, porque nada dice 'IA responsable' como un robot que puede escribir un correo electrónico decente pero también podría iniciar accidentalmente una guerra cibernética.

Dylan Scandinaro, quien fue fichado de Anthropic en febrero para dirigir el equipo de preparación, ahora se dedicará a contemplar las implicaciones de la IA 'auto-mejorante recursiva'. Así que, ya sabes, al menos alguien está pensando en el apocalipsis de los robots, aunque sea un tipo en un rincón con una pizarra.