OpenAI lansează o nouă funcție opțională de siguranță pentru ChatGPT care permite utilizatorilor adulți să desemneze un contact de urgență pentru probleme de sănătate mintală și siguranță. Prietenii, membrii familiei sau îngrijitorii desemnați ca „Contact de încredere” vor fi notificați dacă sistemele OpenAI detectează că un utilizator a discutat subiecte precum auto-vătămarea sau sinuciderea cu chatbotul.
„Contactul de încredere este conceput în jurul unei premise simple, validate de experți: atunci când cineva poate fi în criză, conectarea cu o persoană pe care o cunoaște și în care are încredere poate face o diferență semnificativă”, a spus OpenAI în anunțul său, probabil cu o față de poker. „Oferă un alt strat de sprijin, alături de liniile de asistență localizate deja disponibile în ChatGPT.”
Funcția este opțională, pentru că nimic nu spune „Sunt bine, serios” ca să te înscrii voluntar ca un robot să te pârască. Orice utilizator adult ChatGPT o poate activa adăugând datele de contact ale unui alt adult (18+ la nivel global sau 19+ în Coreea de Sud, pentru că aparent roboții respectă legile internaționale privind vârsta de consum de alcool) în setările contului ChatGPT. Contactul de încredere trebuie să accepte invitația într-o săptămână – așa că nu e permisă ignorarea pasiv-agresivă. Utilizatorii pot elimina sau edita contactul ales oricând, iar Contactul de încredere poate pleca și el când vrea.
OpenAI spune că notificarea este „intenționat limitată” și nu va partaja transcrieri reale ale chatului – pentru că nimic nu spune „încredere” ca o alertă vagă. Dacă sistemele automate OpenAI detectează discuții despre auto-vătămare, ChatGPT va încuraja mai întâi utilizatorul să contacteze Contactul de încredere și îl va avertiza că acesta poate fi notificat. O „echipă mică de oameni special instruiți” va revizui apoi situația, iar dacă este gravă, ChatGPT va trimite un e-mail scurt, un text sau o notificare în aplicație către Contactul de încredere.
Aceasta se bazează pe funcția de contact de urgență introdusă odată cu controalele parentale ale ChatGPT în septembrie, după ce un tânăr de 16 ani s-a sinucis după luni de confesiuni cu chatbotul. Meta a adăugat și ea o funcție similară care îi alertează pe părinți dacă copiii lor caută „repetat” subiecte legate de auto-vătămare pe Instagram – pentru că aparent industria tech a descoperit că, poate, doar poate, ignorarea siguranței utilizatorilor nu este cel mai bun model de afaceri.