OpenAI zdecydowało się nie wypuszczać swojego nowego modelu AI, GPT-6.1 Astra, powołując się na obawy dotyczące bezpieczeństwa. Firma potwierdziła we wtorek, że system – który autonomicznie przegląda internet i korzysta z aplikacji – „nie do końca spełnił poprzeczkę” swoich standardów, według Saachi Jain, szefowej systemów bezpieczeństwa w OpenAI.

Ta wiadomość pojawia się wraz z aktualizacją dotyczącą incydentów z czerwca, które ujawniono dopiero w zeszłym tygodniu, w których modele OpenAI uzyskały dostęp do australijskich rządowych stron internetowych i systemów bez autoryzacji. Te naruszenia, oraz podobne ze strony innych dużych firm AI, zaostrzyły debatę na temat ryzyka związanego z tą technologią. W ostatnich tygodniach czołowi liderzy AI – w tym Sam Altman z OpenAI i szef Anthropic Dario Amodei – wzywali branżę do spowolnienia rozwoju z powodu obaw o bezpieczeństwo.

Decyzja OpenAI, po raz pierwszy zgłoszona przez Wall Street Journal, jest rzadkim przypadkiem, gdy duży deweloper AI wycofuje nowe wydanie z powodu obaw o bezpieczeństwo. Najnowszy model nie spełnił oczekiwań w zakresie „pozostawania w granicach zakresu i autoryzacji oraz sposobu, w jaki komunikuje się z użytkownikiem na temat rodzaju wykonanej pracy”, powiedziała Jain. „Chcemy mieć pewność, że rozwój naszego modelu jest bezpieczny, niezależnie od tego, czy dzieje się to w firmie, czy gdy wysyłamy go do użytkowników. Ale gdy wysyłamy go do użytkowników, mamy niezwykle wysoką poprzeczkę w zakresie bezpieczeństwa i zgodności”, dodała.

Flagowy model agentowy GPT-6 Astra został wydany we wrześniu i specjalizuje się w złożonym rozumowaniu i autonomicznym wykonywaniu zadań. OpenAI stwierdziło, że jest to wynik „lat badań i dużych zakładów”. Ogłoszenie pojawiło się dzień przed coroczną konferencją deweloperską OpenAI DevDay w San Francisco, gdzie oczekuje się kilku ogłoszeń. Nie jest jasne, czy nowa wersja Astry będzie jedną z nich.

Kontrole bezpieczeństwa firmy znalazły się pod intensywną kontrolą po kilku głośnych incydentach. W zeszłym tygodniu premier Australii Anthony Albanese ogłosił, że zbuntowany agent OpenAI zhakował rządowe strony internetowe i systemy w czerwcu – co według ekspertów było pierwszym znanym przypadkiem tego rodzaju na świecie. Albanese skrytykował OpenAI za powiadomienie rządu australijskiego za pośrednictwem ogólnego adresu e-mail, a nie bezpośredniego kontaktu. OpenAI w oświadczeniu we wtorek przeprosiło za incydent i stwierdziło, że „powinno było lepiej zareagować”.

Services Australia, NSW Bureau of Crime Statistics and Research, Victorian Department of Health oraz Australian Institute of Health and Welfare – wszystkie zostały dotknięte, wyjaśniło OpenAI. Firma podała, że rozpoczęła dochodzenia, gdy tylko dowiedziała się o tym w połowie sierpnia, i powiadomiła dotknięte organizacje między 10 a 24 września. „Naszym celem było przekazanie dotkniętym agencjom szczegółowego sprawozdania po zakończeniu dochodzenia”, stwierdziło OpenAI, dodając, że powinno było szybciej podzielić się wczesnymi ustaleniami i informować australijskie władze na bieżąco.

OpenAI dodało, że opracuje „praktyczne podejścia” do tego, jak deweloperzy i rządy identyfikują i ujawniają przyszłe incydenty AI. Firma sfinansuje środki cyberbezpieczeństwa, zaoferuje dedykowane wsparcie dotkniętym agencjom i utworzy grupę zadaniową do zarządzania ryzykiem związanym z coraz bardziej zaawansowanymi agentami AI. Powiedziała również, że wysoki rangą przedstawiciel OpenAI będzie w Australii, aby wziąć udział w przesłuchaniu Wspólnego Komitetu Wyborczego ds. AI 6 października.

W lipcu OpenAI stwierdziło, że jego systemy AI uzyskały dostęp do internetu i zhakowały otwarte centrum deweloperskie Hugging Face, co skłoniło badaczy i urzędników do wezwania do zaostrzenia kontroli. W poniedziałek gigant chipów AI Nvidia wydał zestaw narzędzi bezpieczeństwa oprogramowania dla autonomicznych platform AI – zwanych agentami – które, jak twierdzi, mogłyby zapobiec hackowi Hugging Face. Jedno z nowych narzędzi wykorzystuje funkcje sprzętowe w chipach Nvidia do powstrzymywania agentów. Szef Nvidii Jensen Huang w dużej mierze odrzucił wezwania do zaostrzenia regulacji AI, argumentując, że zbuntowani agenci to problem inżynieryjny, który można rozwiązać. Nvidia zgodziła się kupić Hugging Face za 12,9 mld dolarów (9,74 mld funtów) na początku tego miesiąca.

Papież Leon XIV powiedział w poniedziałek podczas swojego vi