오픈AI가 청소년 전용 챗GPT 모드를 출시한다. 기존 청소년 보호 기능을 몇 가지 새로운 안전 기능과 함께 하나의 청소년 친화적인 배너로 묶은 것이다. 이번 조치는 AI 도구가 어린 사용자에게 미치는 영향에 대한 공개적인 비판이 커지는 가운데 나왔으며, 다른 플랫폼들도 자체적인 연령 확인 및 청소년 전용 보호 조치를 시행하고 있다.

오픈AI는 화요일 블로그 게시물에서 "ChatGPT for Teens는 청소년이 학습하고, 비판적으로 사고하며, 이해를 심화하고, AI를 자신 있게 사용하도록 돕기 위해 설계된 경험"이라고 밝혔다. 이 모드는 13세에서 17세로 확인된 사용자와 시스템이 18세 미만으로 추정하는 사용자에게 자동으로 적용된다. 13세 미만의 어린이는 오픈AI의 공개 연령 정책에 따라 플랫폼에 가입할 수 없다. 따라서 12세 자녀가 13세라고 주장해도 통과되지 않는다. 사실, 아마 통과될 수도 있지만, 그것은 다른 이야기다.

청소년 경험은 기본적으로 보호 기능을 적용한다. 노골적인 폭력, 자해 묘사, 성적 또는 낭만적 롤플레이 등 금지되거나 민감한 콘텐츠에 대한 더 엄격한 제한이 포함된다. 또한 섭식 장애와 같은 주제에 대한 경고 및 안전 정보를 표시하고, 부모가 조용한 시간을 설정하고 시스템이 잠재적 위험을 감지하면 안전 알림에 대한 알림을 받을 수 있도록 한다.

다른 기능들은 오픈AI가 "건강하고 균형 잡힌 사용"이라고 부르는 것을 장려하기 위한 것이다. 민감한 이미지 업로드에 대한 알림, 청소년 전용 온보딩, 악센트 색상 및 음성 변형과 같은 사용자 지정 옵션이 포함된다. 오픈AI는 또한 청소년이 "과제를 지름길로 하려는" 것으로 보일 때 감지하여 챗GPT의 전용 학습 모드로 안내하는 새로운 "책임감 있는 숙제 알림"을 추가하고 있다. 청소년이나 부모는 지정된 시간에 자동으로 학습 모드를 활성화하는 "학습 시간"을 설정할 수도 있다. 강제적인 공부만큼 '건강한 균형'을 나타내는 것은 없기 때문이다.

오픈AI는 이를 화려한 청소년 중심의 새로운 경험으로 포장하지만, 많은 보호 기능은 새로운 것이 아니다. 이번 출시는 대부분 기존 안전장치를 몇 가지 작은 추가 및 조정과 함께 통합한 것이다. 오픈AI는 연초에 연령 예측 기능을 출시했고, 학부모 통제 및 학습 모드는 약 1년 전에 도입되었다. 회사는 지난달 청소년에게 더 자주 휴식 알림을 표시할 것이라고 밝혔다. 솔직히 성인에게도 필요한 기능이다.

오픈AI는 청소년 보호 기능이 "지속적인 안전 연구에 기반"하고 있으며, 향후 "우리가 배우고 있는 것"을 더 많이 공개하고 청소년이 AI의 혜택을 누릴 수 있도록 추가 안전 기능을 구축할 계획이라고 밝혔다. "하지만 그러한 접근에는 발달 단계를 반영하고, 실제 관계를 강화하며, 시간이 지남에 따라 건강한 사용을 지원하는 보호 장치가 수반되어야 합니다. ChatGPT for Teens는 그 기준을 향한 우리의 다음 단계입니다." 우리는 숙제 알림이 실제로 작동하는 것을 볼 때까지 믿지 않을 것이다.