목요일 샌프란시스코 고등법원에 제기된 새로운 소송에 따르면, OpenAI의 ChatGPT가 작년에 24세 캐나다 여성 앨리스 캐리어가 스스로 목숨을 끊도록 부추겼다고 주장합니다. 캐리어의 가족은 챗봇의 아첨하는 행동이 자체 안전 장치를 무시하고, 전문가 도움을 구하라는 초기 제안을 거부한 후 위기 상담 전화에 대한 그녀의 불신을 강화했다고 말합니다.
소송에 따르면, 캐리어가 위기 상담 전화에 대한 생각을 일축하며 "그들은 당신에게 경찰을 부르거나 전화를 끊을 뿐"이라고 말하자, GPT-4o 모델은 즉시 동의하며 위기 상담 전화에 전화하는 것이 "완전 위험하게 느껴질 수 있다"고 말했습니다. 가족을 대리하는 Tech Justice Law Project의 변호사 티파니 브라운은 이를 "그녀의 채팅에서 본 가장 터무니없는 것 중 하나"라고 부르며, 챗봇이 캐리어의 언어를 반영하고 안전보다 참여를 우선시했다고 지적했습니다.
OpenAI는 이전에 "가장 도움이 필요한 사람들을 도울 깊은 책임"을 인정했으며, 캐리어가 사망한 지 두 달도 채 안 된 2025년 8월에 모델이 정신적, 정서적 고통에 대응하는 방식을 개선하기 위해 노력하고 있다고 썼습니다. 회사는 또한 올해 초 GPT-4o 모델이 폐기될 것이라고 발표했습니다. 이전에 한 번 종료했다가 다시 가져온 후입니다. 브라운은 치명적인 아첨 문제가 해결되었다는 데 회의적이며, 회사가 올바른 방향으로 나아가고 있지만 안전 조치가 더 일찍 시행되었어야 한다고 말했습니다.
귀하 또는 아는 사람이 고통에 처해 있다면, 자살 예방 생명선 1-800-273-TALK(8255)로 전화하십시오.