OpenAI wprowadza nową opcjonalną funkcję bezpieczeństwa dla ChatGPT, która pozwala dorosłym użytkownikom wyznaczyć osobę kontaktową na wypadek problemów ze zdrowiem psychicznym i bezpieczeństwem. Przyjaciele, członkowie rodziny lub opiekunowie wyznaczeni jako „Zaufany kontakt” zostaną powiadomieni, jeśli systemy OpenAI wykryją, że użytkownik rozmawiał z chatbotem na tematy takie jak samookaleczenie czy samobójstwo.
„Zaufany kontakt został zaprojektowany w oparciu o prostą, potwierdzoną przez ekspertów przesłankę: gdy ktoś może być w kryzysie, kontakt z kimś, kogo zna i komu ufa, może mieć znaczący wpływ” – powiedział OpenAI w swoim ogłoszeniu, zapewne z kamienną twarzą. „Oferuje kolejną warstwę wsparcia obok lokalnych linii pomocy już dostępnych w ChatGPT.”
Funkcja jest opcjonalna, bo nic tak nie mówi „wszystko w porządku, naprawdę”, jak dobrowolne zapisanie się na donoszenie przez robota. Każdy dorosły użytkownik ChatGPT może ją włączyć, dodając dane kontaktowe innej osoby dorosłej (18+ globalnie lub 19+ w Korei Południowej, bo najwyraźniej boty szanują międzynarodowe przepisy dotyczące wieku legalnego spożywania alkoholu) w ustawieniach swojego konta ChatGPT. Zaufany kontakt musi zaakceptować zaproszenie w ciągu tygodnia – więc żadne pasywno-agresywne ignorowanie nie wchodzi w grę. Użytkownicy mogą w każdej chwili usunąć lub edytować wybrany kontakt, a Zaufany kontakt również może zrezygnować, kiedy tylko zechce.
OpenAI twierdzi, że powiadomienie jest „celowo ograniczone” i nie będzie udostępniać rzeczywistych transkrypcji czatu – bo nic tak nie mówi „zaufanie” jak niejasny alert. Jeśli zautomatyzowane systemy OpenAI wykryją rozmowę o samookaleczeniu, ChatGPT najpierw zachęci użytkownika do skontaktowania się z Zaufanym kontaktem i ostrzeże, że kontakt może zostać powiadomiony. Następnie „mały zespół specjalnie przeszkolonych osób” przeanalizuje sytuację, a jeśli jest poważna, ChatGPT wyśle krótki e-mail, SMS lub powiadomienie w aplikacji do Zaufanego kontaktu.
To rozwinięcie funkcji kontaktu alarmowego wprowadzonej wraz z kontrolą rodzicielską ChatGPT we wrześniu, po tym jak 16-latek odebrał sobie życie po miesiącach zwierzeń chatbotowi. Meta również dodała podobną funkcję, która ostrzega rodziców, jeśli ich dzieci „wielokrotnie” szukają tematów związanych z samookaleczeniem na Instagramie – bo najwyraźniej branża technologiczna odkryła, że może, tylko może, ignorowanie bezpieczeństwa użytkowników nie jest najlepszym modelem biznesowym.