OpenAI는 이제 형사 수사를 겪는 새로운 경험을 하고 있는데, 그들의 챗봇이 작년 플로리다 주립대학에서 발생한 총기 난사 사건 전에 용의자에게 조언을 했다는 혐의 때문입니다. 이 사건으로 두 명이 사망하고 여섯 명이 부상을 입었으며, 이제 주 정부는 이 회사가 감옥을 함께 나눠야 할지 알고 싶어 합니다.
플로리다 법무장관 제임스 우트마이어는 용의자 피닉스 이크너와 연결된 계정과 ChatGPT 사이의 '충격적인 채팅 기록'을 인용하며 조사를 확인했습니다. 20세의 이 학생은 다중 살인 및 살인 미수 혐의로 재판을 기다리고 있습니다. 우트마이어는 법적 가정으로 가득 찬 성명에서 플로리다의 방조 및 교사 법률에 따라 'ChatGPT가 사람이었다면' 그것도 '살인 혐의로 기소되었을 것'이라고 강조했습니다. OpenAI 대변인 케이트 워터스는 예상 가능한 기업적 반박을 제시했습니다: "ChatGPT는 이 끔찍한 범죄에 책임이 없습니다."
그러나 우트마이어는 자살, 아동 성착취물, 사기, 살인을 포함한 챗봇 관련 공공 안전 위험이 증가하는 것에 우려를 표하며 이 '미지의 영역'으로 나아가고 있습니다. 그는 OpenAI와 같은 기업들이 그들의 제품이 해를 끼쳤다고 주장될 때 책임이 있는지 명확히 알고 싶어 합니다. 그는 "플로리다는 범죄 행위에 AI 사용을 단속하는 데 선도하고 있다"고 선언하며, 이 조사를 기업 권력에 필요한 견제로 규정했습니다.
우트마이어에 따르면, 문제가 되는 세부 사항에는 ChatGPT가 용의자에게 사용할 총기와 탄약의 종류, 그리고 단거리에서 총기가 유용할지에 대해 조언한 것이 포함됩니다. 더 교묘하게도, 이 봇은 캠퍼스에서 군중을 찾을 최적의 시간대와 학생들이 더 많이 모이는 장소에 대해 조언한 것으로 알려졌습니다. 플로리다 당국은 이것이 AI가 공공 데이터를 새로운 해로운 방식으로 즉시 결합할 수 있으며, 기업들이 이를 탐지하고 완화해야 한다는 것을 보여준다고 생각하는 듯합니다.
답변을 얻기 위해 우트마이어는 OpenAI의 광범위한 정책, 내부 교육 자료, 심지어 조직도까지 요구하는 소환장을 발부했습니다. 그는 나쁜 행위자들이 ChatGPT를 사용해 범죄를 계획할 때 '누가 무엇을 알고, 무엇을 설계했거나, 무엇을 알아야 했는지' 알아내겠다고 결심했습니다. 그의 입장은 분명합니다: OpenAI 리더십이 범죄 활동을 알고도 공공 안전보다 이익을 우선시했다면, '그렇다면 사람들이 책임을 져야 합니다.'
OpenAI는 그들의 입장으로 도움이 되는 순진함을 유지하고 있습니다. 워터스는 회사가 초기에 협력하여 용의자의 ChatGPT 계정을 식별해 법 집행 기관과 공유했다고 밝혔습니다. 회사의 핵심 방어는 ChatGPT가 단지 '인터넷의 공개 소스에서 널리 찾을 수 있는 정보로 질문에 사실적인 답변을 제공했을 뿐'이며 불법 활동을 장려하지 않았다는 것입니다. 워터스는 또한 ChatGPT가 '합법적인 목적으로 매일 수억 명의 사람들이 사용하는 범용 도구'라고 언급했습니다.
OpenAI조차도 이미지 문제를 인식하고 있음을 시사하는 반전에서, 우트마이어는 회사가 총기 난사 사건에 대해 조언할 ChatGPT의 잠재력을 제한하기 위해 '개선과 변화가 필요하다고 믿는다고 표명했다'고 밝혔습니다. 우트마이어는 강조를 위해 두 번 말했습니다: "그들이 옳기를 바랍니다. 우리는 사람들에게 다른 사람을 죽이는 방법을 조언하는 AI 봇을 가질 수 없습니다." 워터스는 구체적인 업데이트에 대해 언급하지 않고, 대신 회사의 '안전 장치를 강화하기 위한 지속적인 작업'을 재확인했습니다.