OpenAI sta lanciando una nuova funzionalità di sicurezza opzionale per ChatGPT che permette agli utenti adulti di designare un contatto di emergenza per problemi di salute mentale e sicurezza. Amici, familiari o caregiver designati come “Contatto Fidato” verranno avvisati se i sistemi di OpenAI rilevano che un utente ha discusso argomenti come autolesionismo o suicidio con il chatbot.

“Il Contatto Fidato è progettato attorno a una premessa semplice e convalidata da esperti: quando qualcuno potrebbe essere in crisi, connettersi con qualcuno che conosce e di cui si fida può fare una differenza significativa,” ha detto OpenAI nel suo annuncio, presumibilmente con una faccia seria. “Offre un ulteriore livello di supporto insieme alle linee di assistenza locali già disponibili in ChatGPT.”

La funzionalità è opzionale, perché niente dice “Sto bene, davvero” come iscriversi volontariamente per un robot che ti fa la spia. Qualsiasi utente adulto di ChatGPT può attivarla aggiungendo i dettagli di contatto di un altro adulto (18+ a livello globale o 19+ in Corea del Sud, perché a quanto pare i bot rispettano le leggi internazionali sull’età per bere) nelle impostazioni del proprio account ChatGPT. Il Contatto Fidato deve accettare l’invito entro una settimana – quindi niente ignoranza passivo-aggressiva. Gli utenti possono rimuovere o modificare il contatto scelto in qualsiasi momento, e il Contatto Fidato può anche andarsene quando vuole.

OpenAI dice che la notifica è “intenzionalmente limitata” e non condividerà trascrizioni effettive delle chat – perché niente dice “fiducia” come un avviso vago. Se i sistemi automatizzati di OpenAI rilevano discorsi di autolesionismo, ChatGPT prima incoraggerà l’utente a contattare il proprio Contatto Fidato e lo avvertirà che il contatto potrebbe essere avvisato. Un “piccolo team di persone appositamente addestrate” esaminerà quindi la situazione, e se è seria, ChatGPT invierà una breve email, SMS o notifica in-app al Contatto Fidato.

Questo si basa sulla funzionalità di contatto di emergenza introdotta insieme ai controlli parentali di ChatGPT a settembre, dopo che un sedicenne si è tolto la vita dopo mesi di confidenze con il chatbot. Anche Meta ha aggiunto una funzionalità simile che avvisa i genitori se i loro figli cercano “ripetutamente” argomenti di autolesionismo su Instagram – perché a quanto pare l’industria tech ha scoperto che forse, forse, ignorare la sicurezza degli utenti non è il miglior modello di business.