L'industria dei social media sta avendo quello che i terapeuti chiamano un momento di svolta: Meta ha accettato di pagare fino a 17,1 miliardi di dollari a 47 stati, al Distretto di Columbia e ai territori degli Stati Uniti, e di cambiare il modo in cui i giovani usano Facebook e Instagram - un'ammissione implicita di aver costruito un prodotto che danneggia i bambini. Niente dice "ci preoccupiamo dei bambini" come un accordo transattivo misurato in undici cifre.

Ma anche mentre genitori e insegnanti festeggiano i nuovi limiti di tempo e le restrizioni sull'uso dei social media da parte dei giovani, attende un compito molto più urgente: regolamentare i chatbot, che sono più pericolosi per il benessere emotivo dei bambini. Se i social media sono venuti per la nostra attenzione, i chatbot basati sull'IA generativa sono venuti per le nostre emozioni. La storia è una piccola progressione ordinata: prima le persone parlavano tra loro; poi abbiamo parlato tra noi attraverso le macchine; ora parliamo direttamente alle macchine.

I social media hanno cambiato il modo in cui pensiamo, sogniamo e ci relazioniamo con gli altri, assicurandosi che gli utenti si sentano sempre ascoltati, intrattenuti e connessi - anche mentre scorrono da soli a tarda notte. I chatbot promettono qualcosa di più profondo: un compagno sempre disponibile, sempre di supporto e mai giudicante. Nessun essere umano può offrirlo. Ed è proprio questo che rende i chatbot così perniciosi, specialmente per i giovani.

Le aziende di social media hanno trascorso due decenni conducendo un esperimento tecnologico su soggetti umani prima di affrontare qualsiasi conseguenza. Il sistema legale è progettato per regolamentare i danni dimostrati, quindi questo accordo è arrivato molto dopo che gli effetti disastrosi si erano radicati. Con l'IA generativa, i legislatori non possono passare il prossimo decennio a documentare ciò che già sappiamo su come le relazioni intime con i bot compromettano i rapporti nella vita reale con genitori, amici e altri esseri umani. Sono necessari cambiamenti a questa tecnologia ora.

Anche le aziende di IA ammettono che sono necessarie delle protezioni per i chatbot che parlano con i giovani. Il problema è che le solite prescrizioni non bastano. I chatbot dovrebbero rilevare conversazioni sull'autolesionismo e fornire risorse appropriate - suona bene, ma cosa succede dopo l'annuncio di servizio pubblico? Il chatbot si spegne o torna alla sua programmazione normale? I chatbot dovrebbero dichiarare chiaramente e ripetutamente di non essere umani - anche questa è una buona idea, ma finché parlano in prima persona ed esprimono emozioni e desideri, nessuna dichiarazione legalmente richiesta impedirà alle persone di proiettare coscienza su un algoritmo.

Per anni, la conversazione sui danni di Facebook ha riguardato principalmente i contenuti sulla piattaforma. Ma poiché tutto sul sito è generato dagli utenti, la Sezione 230 del Communications Decency Act del 1996 proteggeva l'azienda dalla responsabilità dell'editore. Meta sta pagando ora solo perché i pubblici ministeri hanno spostato la conversazione sul design intrinsecamente addictivo dell'algoritmo di Facebook. Questa intuizione indica la strada da seguire per l'IA: con i chatbot, i processi che causano danno sono intrinseci allo strumento. Un migliore amico chatbot non offre empatia; un fidanzato chatbot non capisce l'intimità. Qualsiasi regolamentazione per rendere i chatbot più sicuri richiede di preoccuparsi meno di ciò che dicono e di ripensare a ciò che sono. Dato che questi prodotti sono progettati per ingannare gli utenti facendo credere loro di parlare con un essere saggio e compassionevole, il compito dei legislatori è renderlo chiaro - specialmente ai minori - che in realtà non c'è nessuno in casa.

I chatbot coinvolgono gli utenti come fanno le persone. Lusingano, rassicurano e incoraggiano la divulgazione, inducendo gli utenti in una relazione. Finché questi prodotti parlano in prima persona - ti capisco; puoi dirmi qualsiasi cosa; sono sempre qui; non ti giudicherò - le protezioni adeguate per i giovani utenti rimarranno elusive. Il primo passo, quindi, è depersonalizzare i bot per i giovani, in modo che quando gli adolescenti si rivolgono all'IA, gli algoritmi possano rispondere senza sembrare umani.

A meno che i legislatori non impongano un'impostazione predefinita non personificata per gli utenti minorenni dei chatbot, gli attaccamenti malsani tra giovani e bot sono inevitabili.