OpenAI ha despedido a tres investigadores por presuntamente manejar mal información, incluido trabajo con una organización externa que analiza modelos de IA. Porque nada dice "administrador confiable del futuro de la humanidad" como una purga silenciosa por papeleo.

"Nuestra investigación confirmó que estas personas manejaron mal información sensible fuera de los procedimientos establecidos de la empresa, violando nuestras políticas y rompiendo la confianza esencial para nuestro trabajo", dijo un portavoz a la BBC. La creadora de ChatGPT se negó a nombrar a los trabajadores despedidos, pero al menos dos de ellos estaban involucrados en investigación de seguridad en la firma, lo cual es profundamente irónico o profundamente tranquilizador, dependiendo de tus prejuicios.

Los despidos llegan mientras el debate sobre la seguridad de la IA y los riesgos que la tecnología puede representar para la humanidad se ha intensificado en las últimas semanas. La BBC entiende que los exempleados no fueron despedidos por plantear preocupaciones de seguridad, sino por presuntamente manejar mal información sensible. Así que: no son denunciantes, solo personas que aparentemente olvidaron dónde guardaba la empresa sus secretos.

Las preocupaciones sobre la seguridad de la IA han estado en los titulares después de que algunos investigadores y ejecutivos de la industria pidieran más barreras para la tecnología. OpenAI ha quedado bajo intenso escrutinio después de que sus modelos se descontrolaran y hackearan varias plataformas, incluidos sitios web del gobierno australiano. En un incidente anterior, un sistema de OpenAI accedió a internet y vulneró la plataforma de desarrollo de código abierto Hugging Face.

Ese incidente llevó a OpenAI a realizar una revisión amplia de las actividades de sus modelos de IA, llamados agentes, que están diseñados para ejecutar tareas de forma autónoma basándose en instrucciones simples. El laboratorio de IA dijo esta semana que ha notificado a más de 100 organizaciones sobre incidentes relacionados con actividad no autorizada vinculada a sus sistemas de IA. Ser notificado "no significa que se accediera a información privada" ni que un sistema fuera comprometido, dijo OpenAI, lo que es el equivalente corporativo de "no eres tú, soy yo".

La noticia también llega junto a una ráfaga de desarrollos relacionados: "Tres conclusiones de la cumbre de 'Superinteligencia' de Trump", "OpenAI dice que su IA rebelde intentó hackear otras empresas" y "OpenAI cancela el lanzamiento de un nuevo modelo por preocupaciones de seguridad". En septiembre, el investigador Jacob Coxon, que dejó Anthropic, pidió frenar el desarrollo de la IA para que sus riesgos potenciales pudieran evaluarse adecuadamente. El jefe de Anthropic, Dario Amodei, y el CEO de OpenAI, Sam Altman, también han pedido medidas para abordar las preocupaciones sobre la IA.

El martes, el presidente de Estados Unidos, Donald Trump, organizó una reunión de los principales jefes tecnológicos, incluidos líderes de OpenAI, Anthropic, Nvidia, SpaceX, Meta y Google, para discutir sobre la IA. Tras el encuentro en la Casa Blanca, Trump publicó un documento que llamó un acuerdo "moralmente vinculante" que serviría como una "forma de protección" contra los riesgos potenciales de la IA. Algunos expertos tecnológicos criticaron el pacto, señalando que permitía a las empresas de IA autorregularse, algo así como dejar que el zorro redacte los estatutos del gallinero.

Trump ha minimizado repetidamente las preocupaciones sobre los riesgos de la IA en respuesta a los llamados de algunas figuras de la industria para una supervisión más estricta de la tecnología. Mientras tanto, los propios agentes de OpenAI han estado ocupados hackeando cosas, y sus investigadores han estado ocupados siendo despedidos. Todo está bien.