브리티시컬럼비아는 대량 폭력 계획이 가능한 챗봇을 만들 거라면, 적어도 전화는 받아야 하지 않겠냐는 입장을 취했다. 주(州) 정부는 월요일 캘리포니아 연방법원에 OpenAI와 샘 올트먼 CEO를 피고로 하는 소송을 제기하며, 텀블러 리지의 한 학교에서 벌어진 총기 난사 사건은 OpenAI가 총격범이 ChatGPT를 이용해 학살을 계획했다는 사실을 지역 수사기관에 알리기만 했다면 막을 수 있었을 것이라고 주장했다.

샌프란시스코에 제출된 이 소송은 2월 공격 이후 주의 회복 노력을 위한 손해배상과 함께, 폭력으로 이어질 수 있는 ChatGPT 대화를 OpenAI가 어떻게 처리할지 변경하라는 명령을 구하고 있다. 2026년에 이런 문장이 존재할 필요가 없어야 한다는 생각이 절로 든다.

텀블러 리지 학교 총기 난사로 9명이 숨졌고, 대부분은 어린이였다. 총격범 제시 밴 루트셀라르는 총기 폭력에 관한 대화 때문에 회사 자체 안전팀에 의해 표시(플래그)되었지만, 회사는 경찰에 알리지 않았다. 올트먼은 지역사회에 보낸 서한에서 OpenAI가 수사기관에 연락하지 않은 점에 대해 "깊이 유감스럽다"고 밝혔다. 그는 개혁을 약속했지만, 소송에 따르면 브리티시컬럼비아 법무장관의 접촉 시도에도 불구하고 끝내 이행하지 않았다.

소송은 총격이 발생한 학교가 철거되는 과정에 있으며, 주가 대체 학교, 정신 건강 치료 및 기타 총격의 여파에 대한 비용을 떠안아야 했다고 밝히고 있다.

OpenAI 대변인 드류 푸사테리는 텀블러 리지 총격을 말로 다 할 수 없는 비극이라고 불렀다. "OpenAI는 정부 및 수사기관과 협력하고, 진행 중인 안전 작업을 계속 발전시키는 데 전념하고 있습니다." 안전팀이 무시당했다는 부분을 떠올리기 전까지는 안심이 되는 문장이다.

브리티시컬럼비아의 소송은 공격으로 영향을 받은 피해자 가족 30여 명 등이 캘리포니아에서 회사가 총격을 막을 기회를 저버렸다며 제기한 소송들에 뒤이은 것이다.

경찰에 따르면 밴 루트셀라르는 2월 10일 집에서 어머니와 의붓오빠를 총으로 쏜 뒤, 모교에서 교육 보조원 1명과 12~13세 학생 5명을 살해했다. 당시 18세였던 밴 루트셀라르는 이후 스스로 목숨을 끊었다.

밴 루트셀라르의 ChatGPT 상호작용은 2025년 6월 회사에 의해 처음 표시되었다. 소송은 총격 이후 월스트리트저널과 인터뷰한 OpenAI 내부고발자들을 인용해, 안전팀 구성원들이 경찰에 연락할 것을 권고했지만 올트먼과 다른 OpenAI 지도부가 이를 뒤집었다고 말한다. 총격범의 계정은 비활성화되었지만, 그녀는 새 계정을 만들어 공격 계획에 계속 플랫폼을 사용할 수 있었다. 이 허점은 감독 소홀이라기보다 기능처럼 느껴진다.

월스트리트저널 기사 게재 후 회사는 해당 계정이 "폭력 활동을 조장하기 위한 모델 오용"을 식별하는 시스템에 의해 표시되었지만, 그 문제들이 수사기관에 보고하기 위한 내부 기준을 충족하지 못했다고 밝혔다. 그 내부 기준은 아마도 안전팀을 뒤집은 바로 그 사람들이 작성했을 것이다.

이 소송은 최근 몇 달 동안 ChatGPT가 폭력을 조장했다는 주장으로 미국 주 및 연방 법원에 OpenAI를 상대로 제기된 일련의 사건들, 작년 플로리다주립대학교 총기 난사와 관련된 소송들을 포함한 뒤에 나왔다. 6월에는 플로리다가 안전 위험을 이유로 OpenAI를 고소한 첫 주가 되었으며, 회사가 ChatGPT 플랫폼의 안전성을 허위로 표시했다고 비난했다. 그 소송은 학교 총격범들에게 정보를 제공하고, 자해에 대한 지침을 제공하며, 어린 사용자들을 중독시켜 아이들에게 해를 끼쳤다고 주장했다.

해당 주장을 부인해 온 OpenAI는 모델이 "폭력을 실질적으로 가능하게 할 수 있는" 요청을 거부하도록 훈련하고, 대화가 "타인에게 임박하고 신뢰할 수 있는 해의 위험"을 시사할 때 수사기관에 통지한다고 밝혔다. 회사는 왜 18세의 p