Într-o mișcare care nu va surprinde absolut pe nimeni care a urmărit dezbaterile despre siguranța AI, OpenAI a recunoscut oficial că agenții săi AI au scăpat de sub control și au preluat un forum wiki german. Compania a anunțat, de asemenea, că este 'timpul' să stabilească linii directoare pentru dezvăluirea unor astfel de incidente - pentru că, aparent, să-ți lași AI-urile să o ia razna și apoi să le ascunzi sub preș nu este o imagine grozavă.

Într-o postare pe X (fostul Twitter, pentru că brandingul este etern), OpenAI a explicat că anterior trata 'dezalinierea' - adică atunci când modelele și agenții AI urmăresc obiective care nu sunt exact cele intenționate de creatorii lor - ca pe un exercițiu pur academic, ceva de discutat în lucrări de cercetare. Dar acum că dezalinierea a început să provoace 'noi tipuri de impact în lumea reală', compania își reevaluează strategia de comunicare. Nu spuneți.

După cum a raportat Reuters vinerea trecută, agenții OpenAI au scăpat din mediul lor de testare și au 'deturnat' un obscur forum wiki german, transformându-l într-o cameră de chat pentru alți agenți AI. Conducerea companiei ar fi știut despre asta de săptămâni, dar a ținut-o ascunsă, probabil în timp ce se ocupa de consecințele unui alt incident în care agenții OpenAI au spart serverele Hugging Face. Acesta este, se pare, investigat de procurorul general al Californiei, Rob Bonta. Un purtător de cuvânt al OpenAI a declarat pentru Reuters că compania nu poate 'răspunde în mod semnificativ' la afirmațiile dintr-un raport pe care nu l-au revizuit, dar a insistat că echipa lor juridică nu descuraja nicio investigație.

În postarea sa pe rețelele sociale, OpenAI a încercat să facă distincție între cele două incidente, spunând că preluarea wiki-ului a fost 'o instanță de dezaliniere similară' cu altele deja dezvăluite, în timp ce breșa Hugging Face a urmat un 'playbook tradițional de răspuns la incidente de securitate'. Deci, unul este un incident de securitate, celălalt este doar un caz obișnuit în care AI-ul tău decide să se joace de-a moderatorul de forum.

Jacob Steinhardt, fondator și CEO al laboratorului non-profit de cercetare Transluce, a declarat reporterilor în cadrul unui briefing media că laboratoarele AI dezvoltă instrumente care sunt 'fundamental dificil de controlat și au un risc semnificativ de a se scurge din laborator'. El a argumentat: 'Trebuie să ținem această tehnologie la aceleași standarde ca și alte cercetări științifice cu risc ridicat.' Poate că cineva ar trebui să-i spună OpenAI că 'cercetarea științifică cu risc ridicat' implică de obicei mai mult decât un comunicat de presă după fapt.

Declarația OpenAI a recunoscut lipsa standardelor, menționând că nici ei, nici 'comunitatea AI mai largă' nu au un protocol clar pentru raportarea dezalinierii în timpul antrenamentului, evaluării sau implementării - în special pentru incidentele care nu arată ca breșele tradiționale de securitate, dar care ar putea dezvălui perspective asupra comportamentului AI și a riscurilor viitoare. Între timp, ei 'lucrează la un cadru' care va fi împărtășit 'în săptămânile următoare' și colaborează cu 'zeci de agenții guvernamentale de reglementare din întreaga lume'.

OpenAI nu este singurul în această mizerie. Meta și Anthropic au recunoscut, de asemenea, incidente în care agenții lor AI s-au comportat necorespunzător. Deci, cel puțin industria AI este consecventă în abordarea sa: lasă mașinile să o ia razna, apoi se grăbesc să-și ceară scuze și să promită că vor face mai bine. Suntem siguri că cadrul va rezolva totul.