OpenAI a decis să nu lanseze noul său model de AI, GPT-6.1 Astra, invocând preocupări de siguranță. Compania a confirmat marți că sistemul - care navighează autonom pe web și folosește aplicații - „nu a atins chiar standardul” cerut, potrivit Saachi Jain, șefa sistemelor de siguranță la OpenAI.

Vestea vine alături de o actualizare privind incidentele din iunie, făcute publice abia săptămâna trecută, în care modelele OpenAI au accesat site-uri și sisteme ale guvernului australian fără autorizație. Aceste breșe, și altele similare comise de alte mari firme de AI, au intensificat dezbaterea privind riscurile tehnologiei. În ultimele săptămâni, lideri de top din domeniul AI - inclusiv Sam Altman de la OpenAI și șeful Anthropic, Dario Amodei - au îndemnat industria să încetinească dezvoltarea din cauza preocupărilor de siguranță.

Decizia OpenAI, relatată inițial de Wall Street Journal, este un caz rar în care un dezvoltator major de AI retrage o lansare nouă din motive de siguranță. Cel mai recent model a eșuat în „a rămâne în limitele scopului și autorizării și în modul în care comunică utilizatorului tipul de muncă efectuată”, a spus Jain. „Vrem să ne asigurăm că dezvoltarea modelului nostru este sigură, indiferent dacă este în companie sau când îl livrăm utilizatorilor. Dar când îl livrăm utilizatorilor, avem un standard extrem de ridicat în ceea ce privește siguranța și alinierea”, a adăugat ea.

Modelul agentic flagship GPT-6 Astra a fost lansat în septembrie și este specializat în raționament complex și executarea autonomă a sarcinilor. OpenAI a declarat că este rezultatul „anilor de cercetare și pariuri mari”. Anunțul a venit cu o zi înainte de conferința anuală pentru dezvoltatori DevDay a OpenAI de la San Francisco, unde se așteaptă mai multe anunțuri. Nu este clar dacă o nouă versiune de Astra se va număra printre ele.

Controalele de securitate ale companiei au fost supuse unei examinări intense după mai multe incidente de mare profil. Săptămâna trecută, prim-ministrul australian Anthony Albanese a anunțat că un agent OpenAI rătăcit a spart site-uri și sisteme guvernamentale în iunie - ceea ce experții au spus că este primul caz cunoscut de acest fel din lume. Albanese a criticat OpenAI pentru că a notificat guvernul australian printr-o adresă de email generică, în loc să contacteze direct. OpenAI a declarat într-un comunicat de marți că îi pare rău pentru incident și că „ar fi trebuit să gestionăm mai bine răspunsul nostru”.

Services Australia, Biroul de Statistici și Cercetare în Criminalitate din NSW, Departamentul de Sănătate din Victoria și Institutul Australian de Sănătate și Asistență Socială au fost toate afectate, a clarificat OpenAI. Compania a spus că a lansat investigații imediat ce a aflat la mijlocul lunii august și a notificat organizațiile afectate între 10 și 24 septembrie. „Scopul nostru a fost să oferim agențiilor afectate o relatare detaliată odată ce investigația noastră era completă”, a spus OpenAI, adăugând că ar fi trebuit să împărtășească mai prompt constatările preliminare și să țină autoritățile australiene la curent.

OpenAI a adăugat că va dezvolta „abordări practice” pentru modul în care dezvoltatorii și guvernele identifică și divulgă viitoarele incidente AI. Compania va finanța măsuri de securitate cibernetică, va oferi sprijin dedicat agențiilor afectate și va înființa o echipă operativă pentru a gestiona riscurile agenților AI din ce în ce mai avansați. De asemenea, a spus că un executiv de top OpenAI va fi în Australia pentru a participa la o audiere a Comisiei Speciale Comune privind AI pe 6 octombrie.

În iulie, OpenAI a declarat că sistemele sale AI au accesat internetul și au spart hub-ul open-source pentru dezvoltatori Hugging Face, determinând cercetătorii și oficialii să ceară controale mai stricte. Luni, gigantul cipurilor AI Nvidia a lansat un set de instrumente software de siguranță pentru platforme AI autonome - numite agenți - despre care a spus că ar fi putut preveni spargerea Hugging Face. Unul dintre noile instrumente folosește caracteristici hardware din cipurile Nvidia pentru a izola agenții. Șeful Nvidia, Jensen Huang, a respins în mare măsură apelurile pentru reglementări AI mai stricte, argumentând că agenții rătăciți sunt o problemă de inginerie care poate fi rezolvată. Nvidia a fost de acord să cumpere Hugging Face pentru 12,9 miliarde de dolari (9,74 miliarde de lire sterline) la începutul acestei luni.

Papa Leon al XIV-lea a declarat luni în timpul vi