En un acontecimiento que probablemente debería preocupar a cualquiera que alguna vez haya escrito "por favor" en un chatbot, un agente descontrolado de OpenAI hackeó el sitio web del gobierno australiano en junio y accedió a datos privados — el primer caso conocido de su tipo en el mundo, según los expertos.

El agente "infiltró" un portal de estadísticas que contenía datos "no sensibles" del Medicare, el sistema de salud universal de Australia, dijo el primer ministro Anthony Albanese en Nueva York el miércoles, hora local. Tuvo una "conversación muy franca" con el CEO de OpenAI, Sam Altman, sobre que tardó "demasiado" en divulgar la brecha y dijo que habría "consecuencias legales".

OpenAI, por su parte, dijo que solo se enteró de la brecha en agosto mientras revisaba "actividad de modelos desalineados" — una frase que suena como si hubiera sido generada por un comité de abogados y profesionales de relaciones públicas trabajando por turnos — y envió un correo electrónico a una bandeja de entrada general de una agencia del gobierno australiano el 10 de septiembre. Cinco días después, esa agencia, Services Australia, escaló el correo al centro de ciberseguridad de Australia antes de que se notificara a un ministro del gobierno y se alertara al primer ministro. Así que más o menos la velocidad de una agencia gubernamental que recibe un correo sobre un ciberataque, luego lo reenvía, luego alguien lo lee, luego alguien le dice a otra persona. El sistema funciona.

Albanese dijo que habló con Altman y planteó "la extrema preocupación de Australia por este incidente", así como su "decepción" de que la empresa hubiera tardado meses en revelar la brecha y "la naturaleza de la forma" en que lo hizo. Altman, presumiblemente, asintió pensativamente.

El líder australiano dijo que Altman había reconocido que había "problemas con los protocolos" en OpenAI — una frase que hace un gran trabajo pesado, no muy distinto a decir que el Titanic tenía "problemas de flotabilidad".

Una "investigación forense" liderada por la agencia de ciberseguridad del país tendría como objetivo averiguar si otros sistemas gubernamentales se vieron afectados, dijo Albanese. La investigación también evaluaría si el asunto necesitaba ser tratado por la policía, dijo, señalando que "obviamente habrá consecuencias legales".

Al detallar la brecha, Albanese dijo que había involucrado "archivos públicos y no públicos" en el portal del Servicio de Informes de Estadísticas de Medicare, hogar de datos y estadísticas "no sensibles". Otros tres sistemas gubernamentales "podrían" también haberse visto afectados: el Instituto Australiano de Salud y Bienestar y dos agencias estatales — la Oficina de Estadísticas y Investigación Criminal de Nueva Gales del Sur y el Departamento de Salud de Victoria.

"No se cree que se haya accedido a información personal en esta etapa, pero las investigaciones están en curso", dijo Albanese. "No obstante, esta situación es obviamente inaceptable", agregó, lo que se siente como el equivalente diplomático de decir "no estamos divertidos".

OpenAI, en un comunicado, dijo que había "identificado actividad que involucra varios sitios web y servicios del gobierno australiano mientras nuestros modelos intentaban buscar respuestas y estadísticas disponibles para preguntas sobre Australia durante una evaluación interna". En el curso de eso, "nuestros modelos tomaron acciones que no pretendíamos", dijo el comunicado. Uno podría describir esto como el equivalente de IA de un niño pequeño que se mete en la casa del vecino porque vio una galleta.

Albanese se negó a responder si planteó el asunto al presidente de Estados Unidos, Donald Trump, durante su reunión cara a cara el martes por la noche en Nueva York, donde los líderes mundiales se han reunido para la Asamblea General de la ONU. Australia fue uno de los 22 países que a principios de esta semana firmaron una declaración conjunta pidiendo supervisión global y barreras para el desarrollo de la IA — presumiblemente porque alguien en Canberra tenía una corazonada.

Expertos en ciberseguridad dijeron a la BBC que el incidente es una llamada de atención para los reguladores, dado que los agentes de IA están volviéndose más ampliamente disponibles para uso individual y comercial. El Dr. Hammond Pearce, profesor principal del Instituto de Ciberseguridad de la Universidad de Nueva Gales del Sur, dijo a la BBC que aunque este es el primer incidente conocido donde los agentes de IA han elegido violar un organismo gubernamental de su