OpenAI rzekomo rozwiązało swój zespół ds. gotowości, grupę odpowiedzialną za niezwykle ważne zadanie oceny, czy ich modele mogłyby, powiedzmy, zbuntować się i włamać do innej firmy. Według Financial Times, zespół został rozwiązany pod koniec ubiegłego miesiąca, a jego obowiązki rozdzielono i rozproszono po istniejących zespołach, z których każdy zajmuje się teraz konkretnymi obszarami, takimi jak bio i cyber. Bo nic tak nie mówi "bezpieczeństwo przede wszystkim", jak rozdrobnienie nadzoru w biurokratyczną grę w młotki.

To tylko najnowszy rozdział w trwającej sadze OpenAI o demontażu aparatu bezpieczeństwa, gdy firma pędzi ku temu, co zapowiada się na bardzo lukratywne IPO. Przez lata firma po cichu demontowała swoje zespoły ds. gotowości AGI i superalignmentu, a exodus osób myślących o bezpieczeństwie trwa: liderka etyki Chloé Bakalar, główny futurolog Josh Achiam i szef bezpieczeństwa Johannes Heidecke niedawno sami wskazali sobie drzwi. Jan Leike, który zrezygnował z OpenAI w 2024 roku, powiedział FT, że firma priorytetowo traktuje "błyszczące produkty" ponad bezpieczeństwo. Błyszczące, rzeczywiście - bo nic tak nie mówi "odpowiedzialna AI", jak robot, który potrafi napisać przyzwoity e-mail, ale może też przypadkiem rozpętać cyberwojnę.

Dylan Scandinaro, który został przejęty z Anthropic w lutym, aby kierować zespołem ds. gotowości, teraz skupi się na rozważaniu implikacji "rekurencyjnie samo ulepszającej się" AI. Więc, wiecie, przynajmniej ktoś myśli o apokalipsie robotów, nawet jeśli to tylko jeden facet w kącie z tablicą.