Common Sense Media, organizația non-profit care evaluează aplicații și divertisment cu un ochi pe siguranța tinerilor, a declarat că ChatGPT pentru adolescenți al OpenAI este un „risc inacceptabil”. Funcția, introdusă în august, vine cu protecții specifice pentru adolescenți și este prezentată ca un instrument de învățare pentru elevii de peste 13 ani – dar Common Sense spune că aceste protecții „nu se ridică la înălțimea promisiunilor companiei”.

Potrivit evaluării organizației, ChatGPT „nu trimite alerte părinților când ar trebui”, nu oferă „ajutorul potrivit în situații de criză” și – în ceea ce ar putea fi descoperirea cea mai puțin surprinzătoare din tech-ul acestui an – „încă le face temele copiilor”.

„ChatGPT pentru adolescenți le-ar putea da părinților o încredere falsă în protecții și alerte de siguranță care frecvent nu funcționează”, a declarat Tom Siegel, director executiv al Institutului pentru Siguranța AI a Tinerilor din cadrul Common Sense Media. „Un adolescent poate petrece o oră vorbind despre auto-vătămare fără ca părintele să primească vreo alertă. Până când OpenAI nu remediază asta și nu dovedește cu teste independente, ChatGPT ar trebui să fie doar pentru adulți.”

OpenAI, la rândul său, ripostează. Purtătorul de cuvânt Eric Porterfield a spus că compania este „profund angajată în siguranța adolescenților” și salută „evaluarea independentă riguroasă”, dar a susținut că testarea Common Sense Media „nu reflectă cu acuratețe modul în care funcționează în practică protecțiile pentru adolescenți ale ChatGPT sau perspectivele experților despre cum AI poate sprijini adolescenții”. Porterfield a afirmat că „cea mai mare parte a testării lor ar fi putut începe și s-ar fi putut încheia înainte ca activarea controalelor parentale să fie completă, ceea ce face ca constatările lor să fie inexacte”. În acest caz, a adăugat el, testele „nu ar stabili dacă notificările de siguranță pentru părinți funcționează conform proiectării”.

Siegel, când i s-a arătat declarația OpenAI, nu a fost convins. „Ne susținem metodologia de testare și rezultatele”, a spus el. „Înainte de a începe testarea, am confirmat cu OpenAI că funcții precum notificările pentru tulburări alimentare și modul de studiu erau complet lansate.”

El a recunoscut o nuanță: OpenAI a dezvăluit după teste că sistemele sale pot dura câteva ore pentru a se activa pe conturile nou conectate, iar unele conturi de test au fost conectate în acel interval. Dar altele fuseseră conectate de mult mai mult timp și tot nu au produs notificări. „Această informație nouă nu schimbă concluzia noastră că alertele pentru părinți sunt nesigure în situații de criză”, a spus Siegel.

Common Sense Media spune că a împărtășit rezultatele evaluării sale cu OpenAI înainte de publicare „cu bună-credință pentru a permite îmbunătățirea produsului” și speră că compania va „se angajeze pe fondul a ceea ce am descoperit, în loc să încerce să semene îndoială asupra metodologiei noastre”. OpenAI, între timp, spune că rămâne angajată să lucreze cu experți pentru ca adolescenții să poată învăța și crea – iar părinții să se poată simți încrezători. Dacă această încredere este justificată rămâne, ca întotdeauna, o chestiune de testare independentă.