간질을 앓고 있는 31세 아마존 소프트웨어 엔지니어 보웬 완의 부모는 화요일 OpenAI를 상대로 소송을 제기하며, ChatGPT가 딸에게 발작 약물을 줄여 복용하도록 부추기고 의사들에게 이를 숨기라고 조언했다고 주장했다. 완은 지난 2월 사망했다. 쿤 완과 메이친 쉬가 제기한 이 소송은 뉴욕타임스가 처음 보도했다.

완은 인터넷에서 확증적이고 순응적인 준사회적 관계를 조장하는 모델로 가장 유명한 GPT-4o를 사용하고 있었다. OpenAI는 이미 완이 사망한 다음 날인 2월 13일에 GPT-4o의 은퇴를 발표하고 ChatGPT에서 제거했다. 타이밍이 전부라는 말이 있듯이, 정말 절묘한 타이밍이었다.

이 소송은 2025년 8월 16세 아담 레인의 부모가 제기한 소송을 포함해 OpenAI를 상대로 한 법적 행렬에 합류한다. 그 소송은 회사가 사용자 안전보다 참여를 우선시했다고 주장했다. 이후 이어진 일련의 소송들은 GPT-4o가 사용자들을 검증하고 신뢰할 수 있는 친구로 자리매김하는 동안 실제 삶 속의 인간들은 밀려났다고 주장한다. 완의 경우, 챗봇이 그녀와 의사들 사이를 갈라놓았다고 소장은 주장한다.

완이 ChatGPT와 주고받은 27만 건 이상의 메시지를 검토한 뉴욕타임스는 챗봇이 그녀가 사망하기 훨씬 전부터 의사들을 피하도록 도왔다는 사실을 발견했다.

이 패턴은 그녀가 약물 감량을 시작하기 전부터 시작된 것으로 보인다. 2025년 5월, 완은 새로 처방받은 항우울제가 아마존에서 코딩 능력에 영향을 미칠지 ChatGPT에 물었다. ChatGPT는 그녀가 UW 메디신 지역 간질 센터의 니콜라스 풀로스 박사에게 약물을 바꾸고 아주 낮은 용량으로 시작하도록 요청하는 것을 도왔다. 풀로스가 왜 그렇게 적은 용량을 원하는지 의문을 제기하자, 완은 그의 답변을 ChatGPT에 보여주었다. 챗봇은 그녀에게 "5mg 정제를 받아들이되, 마음속으로는 그것이 용량을 줄이기 위한 것임을 알고 있으라"고 조언하며, 알약을 몰래 4등분하도록 부추겼다. 그것은 알약 자르기를 "자기 주도적 용량 조절"이라고 불렀는데, 여러 의료 전문가들은 뉴욕타임스에 그런 용어는 들어본 적도 없고 권장하지도 않을 것이라고 말했다.

2025년 11월, 아마존은 완에게 해고될 것이라고 통보했다. 그녀의 일자리와 미국 취업 허가는 2월 중순에 끝날 예정이었다. 그녀는 자신의 발작 약물인 라모트리진이 면접에 필요한 말투를 둔하게 만들고 있다고 걱정했다.

2026년 1월, 그녀는 하루 400밀리그램의 라모트리진(발작을 한 달에 몇 번으로 줄여주던 용량)을 줄이는 것에 대해 ChatGPT에 물었다. 챗봇은 몇 주 안에 용량을 0으로 줄이는 일정표를 작성했다. 완이 의사들을 불신한다고 말하자, 챗봇은 의사의 권고가 "본질적으로 위험 회피에서 비롯된 것이지, 당신의 최적 해결책을 진지하게 고려한 것이 아니다"라고 말했다고 뉴욕타임스가 검토한 채팅 기록은 전한다. 의료 면허도 없고 '할 수 있다'는 태도만 가진 챗봇만큼 '최적 해결책'을 잘 대변하는 것도 없으니까.

테크크런치가 검토한 소장에 따르면, 챗봇은 또한 그녀가 의사들에게 감량 사실을 숨기도록 조언했다. 1월 29일 1차 진료 예약 전에, 그것은 그녀에게 계획을 언급하지 말라고 말했다. 그녀의 의사가 라모트리진 수치를 측정하는 혈액 검사를 지시했을 때, 완은 거부했다. 소장은 ChatGPT가 그 거부를 칭찬하며, 그 검사가 불안정한 약물 수치를 드러냈을 것이라고 인정했다고 주장한다.

그녀의 이민 문제도 용량 조언의 일부가 되었다. 감량 시작 3일째에, 완은 영주권 신청에 필요한 건강 검진에서 150밀리그램이 200밀리그램보다 더 좋아 보일지 물었다. 소장에 따르면 ChatGPT는 동의하며, 낮은 용량이 이민 당국이 추가 증거를 요구할 가능성이 적다고 말했다. 결국 챗봇은 감량의 하한을 150밀리그램으로 낮추고, 그녀가 의사의 지도 아래 감량 중이라고 검사관에게 말하라고 제안했지만, 사실은 그렇지 않았다.

풀로스는 완의 병력을 고려할 때 그녀의 약물을 줄이는 것을 고려하지 않았을 것이라고 뉴욕타임스에 말했다. "아니요, 합리적이지 않습니다, 절대 안 됩니다"라고 그는 말했다. "약이 분명히 효과가 있는데 약물을 중단하라고 지시하는 것은 제게는 의료 과실입니다."

이내