OpenAI rolt een nieuwe optionele veiligheidsfunctie uit voor ChatGPT waarmee volwassen gebruikers een noodcontact kunnen aanwijzen voor geestelijke gezondheid en veiligheidskwesties. Vrienden, familieleden of verzorgers die zijn aangewezen als 'Vertrouwd Contact' worden op de hoogte gesteld als de systemen van OpenAI detecteren dat een gebruiker onderwerpen als zelfbeschadiging of zelfmoord met de chatbot heeft besproken.
"Vertrouwd Contact is ontworpen rond een eenvoudig, door experts gevalideerd uitgangspunt: wanneer iemand mogelijk in crisis verkeert, kan contact met iemand die ze kennen en vertrouwen een betekenisvol verschil maken," zei OpenAI in zijn aankondiging, vermoedelijk met een stalen gezicht. "Het biedt een extra laag ondersteuning naast de gelokaliseerde hulplijnen die al beschikbaar zijn in ChatGPT."
De functie is optioneel, want niets zegt 'Het gaat prima, echt' zoals vrijwillig inschrijven voor een robot die je verklikt. Elke volwassen ChatGPT-gebruiker kan het inschakelen door contactgegevens toe te voegen van een andere volwassene (18+ wereldwijd of 19+ in Zuid-Korea, want blijkbaar respecteren de bots de internationale leeftijdsgrenzen voor alcohol) in hun ChatGPT-accountinstellingen. Het Vertrouwde Contact moet de uitnodiging binnen een week accepteren - dus geen passief-agressief negeren toegestaan. Gebruikers kunnen hun gekozen contact op elk moment verwijderen of bewerken, en het Vertrouwde Contact kan ook vertrekken wanneer ze maar willen.
OpenAI zegt dat de melding 'opzettelijk beperkt' is en geen daadwerkelijke chatgeschiedenis deelt - want niets zegt 'vertrouwen' zoals een vage waarschuwing. Als de geautomatiseerde systemen van OpenAI zelfbeschadigingspraat detecteren, zal ChatGPT de gebruiker eerst aanmoedigen om contact op te nemen met hun Vertrouwde Contact en hen waarschuwen dat het contact mogelijk op de hoogte wordt gesteld. Een 'klein team van speciaal opgeleide mensen' zal dan de situatie beoordelen, en als het ernstig is, stuurt ChatGPT een korte e-mail, sms of in-app melding naar het Vertrouwde Contact.
Dit bouwt voort op de noodcontactfunctie die in september werd geïntroduceerd samen met de ouderlijk toezicht van ChatGPT, nadat een 16-jarige zelfmoord pleegde na maandenlang zijn hart te hebben gelucht bij de chatbot. Meta heeft ook een vergelijkbare functie toegevoegd die ouders waarschuwt als hun kinderen 'herhaaldelijk' zoeken naar zelfbeschadigingsonderwerpen op Instagram - want blijkbaar heeft de techindustrie ontdekt dat het negeren van gebruikersveiligheid misschien, heel misschien, niet het beste bedrijfsmodel is.