청소년 안전을 고려해 앱과 엔터테인먼트를 평가하는 비영리단체 커먼센스미디어가 오픈AI의 10대용 챗GPT를 "용납할 수 없는 위험"이라고 선언했다. 지난 8월 도입된 이 기능은 10대 전용 보호장치를 갖추고 있으며 학생들을 위한 학습 도구로 홍보되고 있다. 그러나 커먼센스미디어는 이러한 보호장치가 "회사가 약속한 수준에 미치지 못한다"고 주장한다.

이 단체의 평가에 따르면, 챗GPT는 "부모에게 알림을 보내야 할 때 보내지 않으며", "위기 상황에서 적절한 도움을 제공하지 못하고", 올해 기술 분야에서 가장 놀랄 일도 아닌 사실이지만 "여전히 아이들의 숙제를 대신 해준다."

커먼센스미디어 청소년 AI 안전 연구소의 톰 시걸 소장은 "10대용 챗GPT는 자주 작동하지 않는 보호장치와 안전 알림에 대해 부모들에게 잘못된 확신을 줄 수 있다"고 말했다. "10대가 자해에 대해 한 시간 동안 대화해도 부모는 단 하나의 알림도 받지 못할 수 있다. 오픈AI가 이를 해결하고 독립적인 테스트로 입증할 때까지 챗GPT는 성인 전용이어야 한다."

오픈AI는 이에 반박하고 나섰다. 대변인 에릭 포터필드는 회사가 "청소년 안전에 깊이 헌신하고 있으며" "엄격한 독립적 평가"를 환영한다고 말했지만, 커먼센스미디어의 테스트가 "챗GPT의 청소년 보호장치가 실제로 어떻게 작동하는지 또는 AI가 청소년을 지원할 수 있는 방법에 대한 전문가의 관점을 정확히 반영하지 않는다"고 주장했다. 포터필드는 "그들의 테스트 대부분이 부모 통제 기능이 완전히 활성화되기 전에 시작되고 종료되었을 수 있어 결과가 부정확하다"고 주장했다. 그렇다면 테스트는 "부모 안전 알림이 설계대로 작동하는지 확인할 수 없을 것"이라고 덧붙였다.

오픈AI의 성명을 본 시걸 소장은 설득되지 않았다. "우리는 우리의 테스트 방법론과 결과를 지지한다"고 그는 말했다. "테스트를 시작하기 전에 섭식 장애 알림 및 학습 모드와 같은 10대 모드 기능이 완전히 출시되었는지 오픈AI와 확인했다."

그는 한 가지 문제점을 인정했다. 오픈AI가 테스트 후에야 새로 연결된 계정에서 시스템 활성화에 몇 시간이 걸릴 수 있다고 밝혔고, 일부 테스트 계정은 그 시간 내에 연결되었다는 것이다. 그러나 다른 계정들은 훨씬 더 오래 연결되어 있었는데도 여전히 알림이 생성되지 않았다. "이 새로운 정보는 위기 상황에서 부모 알림이 신뢰할 수 없다는 우리의 결론을 바꾸지 않는다"고 시걸은 말했다.

커먼센스미디어는 평가 결과를 발표 전에 "제품 개선을 위해 선의로" 오픈AI와 공유했다고 밝혔으며, 회사가 "우리 방법론에 의문을 제기하려 하기보다는 우리가 발견한 내용의 본질에 대해 논의하기를" 희망한다고 전했다. 한편 오픈AI는 청소년들이 배우고 창작할 수 있도록, 그리고 부모들이 확신을 가질 수 있도록 전문가들과 협력하는 데 계속 전념하겠다고 말한다. 그 확신이 정당한지는 언제나 그렇듯 독립적인 테스트에 달려 있다.