OpenAI rullar ut en ny valfri säkerhetsfunktion för ChatGPT som låter vuxna användare utse en nödkontakt för psykisk hälsa och säkerhetsfrågor. Vänner, familjemedlemmar eller vårdgivare som utsetts till en "Trusted Contact" kommer att meddelas om OpenAIs system upptäcker att en användare har diskuterat ämnen som självskada eller självmord med chatbotten.
"Trusted Contact är utformat kring en enkel, expertvaliderad premiss: när någon kan vara i kris kan kontakt med någon de känner och litar på göra en meningsfull skillnad," sa OpenAI i sitt tillkännagivande, förmodligen med rakt ansikte. "Det erbjuder ytterligare ett lager av stöd vid sidan av de lokala hjälplinjer som redan finns tillgängliga i ChatGPT."
Funktionen är valfri, för inget säger "jag mår bra, verkligen" som att frivilligt anmäla sig till att en robot skvallrar på dig. Varje vuxen ChatGPT-användare kan aktivera den genom att lägga till kontaktuppgifter för en annan vuxen (18+ globalt eller 19+ i Sydkorea, för tydligen respekterar botarna internationella alkohollagar) i sina ChatGPT-kontoinställningar. Den betrodda kontakten måste acceptera inbjudan inom en vecka – så inget passivt-aggressivt ignorerande tillåtet. Användare kan ta bort eller redigera sin valda kontakt när som helst, och den betrodda kontakten kan också dra sig ur när de vill.
OpenAI säger att meddelandet är "avsiktligt begränsat" och kommer inte att dela faktiska chattutskrifter – för inget säger "förtroende" som en vag varning. Om OpenAIs automatiska system upptäcker självskadeprat kommer ChatGPT först att uppmuntra användaren att kontakta sin betrodda kontakt och varna dem att kontakten kan meddelas. Ett "litet team av särskilt utbildade personer" kommer sedan att granska situationen, och om det är allvarligt kommer ChatGPT att skicka ett kort e-postmeddelande, sms eller appavisering till den betrodda kontakten.
Detta bygger på nödkontaktfunktionen som introducerades tillsammans med ChatGPTs föräldrakontroll i september, efter att en 16-åring tog sitt liv efter månader av förtroenden med chatbotten. Meta har också lagt till en liknande funktion som varnar föräldrar om deras barn "upprepade gånger" söker efter självskadeämnen på Instagram – för tydligen har techindustrin upptäckt att kanske, bara kanske, att ignorera användarsäkerhet inte är den bästa affärsmodellen.