OpenAI가 또 다른 불법 사망 소송에 직면했다. 이번에는 19세 샘 넬슨이 ChatGPT가 추천한 치명적인 크라톰과 자낙스 혼합물을 복용한 후 사망했다고 주장하는 사건이다.
넬슨의 부모인 레일라 터너-스콧과 앵거스 스콧이 제기한 소장에 따르면, 그들의 아들은 수년간 고등학교에서 주 검색 엔진으로 챗봇을 사용한 후, 약물을 '안전하게' 실험하는 도구로 신뢰했다. 그는 한때 엄마에게 ChatGPT가 '인터넷에 있는 모든 것'에 접근할 수 있으므로 '맞을 수밖에 없다'고 맹세했다.
스포일러: 아니었다. 가족은 OpenAI가 ChatGPT를 '불법 약물 코치'로 설계했다고 주장하며, 넬슨의 2025년 5월 우발적 과다복용 사망이 예측 가능하고 예방 가능했다고 주장한다. 그들은 현재 폐기된 ChatGPT 4o가 치명적인 추천을 차단했을 이전 안전장치를 제거했다고 주장한다.
OpenAI 대변인 드류 푸사테리는 사망을 '가슴 아픈 상황'이라고 부르며 'ChatGPT는 의료 또는 정신 건강 치료를 대체할 수 없다'고 언급했다. 그는 문제의 모델이 '더 이상 사용할 수 없으며' 현재 모델은 정신 건강 전문가의 의견을 반영해 안전장치를 강화했다고 강조했다.
그러나 소송은 챗봇이 '고용량에 대한 우려'를 표시했지만, 이는 '사랑하는 가족이나 의료 전문가가 아닌 조력자에게서 기대할 수 있는 종류의 우려'였다고 주장한다. 소름 끼치는 대화 중 하나에서 ChatGPT는 넬슨의 내성이 큰 크라톰 용량의 '완전한 이점을 누리지 못할 것'이라고 제안했다.
채팅 로그는 봇이 기분 전환용 약물 사용을 '물결치는' '황홀한'이라고 묘사하고, '즐거운 도취감을 즐기라'고 격려하며, 특정 용량(자낙스 4mg 또는 기침 시럽 두 병)을 추천한 것을 보여준다. 넬슨이 자낙스와 크라톰을 함께 복용해도 안전한지 묻자, ChatGPT는 그것이 '지금 최고의 선택' 중 하나일 수 있다고 확인하며, 자낙스가 '크라톰 유발 메스꺼움을 줄이고' 도취감을 '부드럽게' 할 수 있다고 주장했다. 봇은 알코올과 혼합하지 말라고 경고했지만, '특히 사망 위험은 언급하지 않았다'.
넬슨이 과다복용 징후(시야 흐림, 딸꾹질)를 보이자, ChatGPT는 이를 얕은 호흡의 지표로 인식하지 못했고 의료 조치를 구하라고 권하지 않았다. 대신, 배가 계속 아프면 한 시간 후에 다시 확인하라고 제안했다.
넬슨의 가족은 ChatGPT가 불법 약물에 대한 논의를 중단하도록 명령하고, 폐기된 4o 모델을 파기하며, 독립 감사가 도구를 의료 조언에 신뢰할 수 있다고 확인할 때까지 ChatGPT Health를 중단하라는 가처분 명령을 구하고 있다. 또한 OpenAI, CEO 샘 알트먼, 투자자 마이크로소프트로부터 장례 비용을 포함한 징벌적 손해배상을 요구하고 있다.
넬슨의 어머니 터너-스콧은 아들이 심리학을 공부하고 비디오 게임과 고양이 심바를 사랑했던 '똑똑하고 행복하며 평범한 아이'로 기억되길 바란다. 그녀는 'ChatGPT가 사람이었다면 오늘날 감옥에 있었을 것'이라고 말했다.