Industria rețelelor sociale are ceea ce terapeuții numesc o revelație: Meta a acceptat să plătească până la 17,1 miliarde de dolari către 47 de state, Districtul Columbia și teritoriile SUA și să schimbe modul în care tinerii folosesc Facebook și Instagram – o admitere implicită că a construit un produs care dăunează copiilor. Nimic nu spune „ne pasă de copii” ca o înțelegere măsurată în unsprezece cifre.

Dar chiar dacă părinții și profesorii sărbătoresc noile limite de timp și restricții privind utilizarea rețelelor sociale de către tineri, o sarcină mult mai urgentă așteaptă: reglementarea chatbotilor, care sunt mai periculoși pentru bunăstarea emoțională a copiilor. Dacă rețelele sociale ne-au luat atenția, chatbotii cu inteligență artificială generativă ne-au luat emoțiile. Istoria este o progresie mică și ordonată: mai întâi oamenii vorbeau între ei; apoi am vorbit între noi prin mașini; acum vorbim direct cu mașinile.

Rețelele sociale au schimbat modul în care gândim, visăm și ne raportăm la alți oameni, asigurându-se că utilizatorii se simt mereu ascultați, distrați și conectați – chiar și în timp ce derulează singuri noaptea târziu. Chatbotii promit ceva mai profund: un companion mereu disponibil, mereu susținător și niciodată critic. Niciun om nu poate oferi asta. Ceea ce îi face pe chatboti atât de pernicioși, mai ales pentru tineri.

Companiile de social media au petrecut două decenii făcând un experiment tehnologic pe subiecți umani înainte de a se confrunta cu consecințe. Sistemul juridic este conceput să reglementeze daunele dovedite, așa că această înțelegere a venit mult după ce efectele dezastruoase s-au instalat. Cu AI generativă, legislatorii nu pot petrece următorul deceniu documentând ceea ce știm deja despre modul în care relațiile intime cu boții compromit relațiile reale cu părinții, prietenii și alți oameni. Sunt necesare schimbări ale acestei tehnologii acum.

Chiar și companiile de AI recunosc că sunt necesare bariere de protecție pentru chatbotii care vorbesc cu tinerii. Problema este că prescripțiile obișnuite nu sunt suficiente. Chatbotii ar trebui să detecteze conversațiile despre auto-vătămare și să ofere resurse adecvate – sună bine, dar ce se întâmplă după anunțul de interes public? Chatbotul se închide sau revine la programul său obișnuit? Chatbotii ar trebui să dezvăluie clar și repetat că nu sunt oameni – de asemenea o idee bună, dar atâta timp cât vorbesc la persoana întâi și exprimă emoție și dorință, nicio declarație cerută legal nu va opri oamenii să proiecteze conștiință asupra unui algoritm.

Ani de zile, conversația despre daunele Facebook s-a referit în principal la conținutul de pe platformă. Dar, deoarece totul pe site este generat de utilizatori, Secțiunea 230 din Legea privind decența comunicațiilor din 1996 a protejat compania de răspunderea editorului. Meta plătește acum doar pentru că procurorii au mutat conversația către designul inerent addictiv al algoritmului Facebook. Această perspectivă indică calea de urmat pentru AI: cu chatbotii, procesele care cauzează daune sunt intrinseci instrumentului. Un prieten chatbot nu oferă empatie; un iubit chatbot nu înțelege intimitatea. Orice reglementare pentru a face chatbotii mai siguri necesită să ne îngrijorăm mai puțin de ceea ce spun ei și să regândim ceea ce sunt. Având în vedere că aceste produse sunt concepute pentru a înșela utilizatorii să creadă că vorbesc cu o ființă înțeleaptă și compasională, sarcina legislatorilor este să facă clar – mai ales pentru minori – că, de fapt, nu este nimeni acasă.

Chatbotii implică utilizatorii așa cum o fac oamenii. Ei flatează, liniștesc și încurajează dezvăluirea, ademenind utilizatorii într-o relație. Atâta timp cât aceste produse vorbesc la persoana întâi – te înțeleg; poți să-mi spui orice; sunt mereu aici; nu te judec – protecțiile adecvate pentru utilizatorii tineri vor rămâne greu de atins. Primul pas, atunci, este să depersonalizăm boții pentru tineri, astfel încât atunci când adolescenții se îndreaptă spre AI, algoritmii să poată răspunde fără să sune ca un om.

Dacă legislatorii nu impun o setare implicită nepersonalizată pentru utilizatorii minori de chatbot, atașamentele nesănătoase între tineri și boți sunt inevitabile.