A Common Sense Media, a organização sem fins lucrativos que avalia aplicativos e entretenimento com um olhar voltado para a segurança dos jovens, declarou o ChatGPT para Adolescentes da OpenAI um "risco inaceitável". O recurso, lançado em agosto, vem com proteções específicas para adolescentes e é apresentado como uma ferramenta de aprendizado para estudantes — mas a Common Sense diz que essas proteções "ficam aquém do que a empresa prometeu".

De acordo com a avaliação da organização, o ChatGPT "não envia alertas aos pais quando deveria", não oferece "a ajuda certa em situações de crise" e — na que talvez seja a descoberta menos surpreendente da tecnologia este ano — "ainda faz a lição de casa das crianças".

"O ChatGPT para Adolescentes pode dar aos pais uma falsa confiança em proteções e alertas de segurança que frequentemente não funcionam", disse Tom Siegel, diretor executivo do Instituto de Segurança de IA para Jovens da Common Sense Media. "Um adolescente pode passar uma hora falando sobre automutilação sem que seu pai ou mãe receba um único alerta. Até que a OpenAI conserte isso e prove com testes independentes, o ChatGPT deveria ser apenas para adultos."

A OpenAI, por sua vez, está rebatendo. O porta-voz Eric Porterfield disse que a empresa está "profundamente comprometida com a segurança dos adolescentes" e recebe bem "avaliações independentes rigorosas", mas argumentou que os testes da Common Sense Media "não refletem com precisão como as salvaguardas para adolescentes do ChatGPT funcionam na prática ou as perspectivas de especialistas sobre como a IA pode apoiar os adolescentes". Porterfield afirmou que "a maior parte dos testes deles pode ter começado e terminado antes que a ativação dos controles parentais estivesse completa, tornando suas conclusões imprecisas". Se esse foi o caso, acrescentou, os testes "não estabeleceriam se as notificações de segurança parental funcionam conforme projetado".

Siegel, quando confrontado com a declaração da OpenAI, não se convenceu. "Mantemos nossa metodologia de teste e nossos resultados", disse ele. "Antes de começarmos os testes, confirmamos com a OpenAI que recursos do modo Adolescente, como notificações de transtornos alimentares e modo de estudo, estavam totalmente lançados."

Ele reconheceu um detalhe: a OpenAI divulgou após os testes que seus sistemas podem levar várias horas para ativar em contas recém-vinculadas, e algumas contas de teste foram vinculadas dentro dessa janela. Mas outras estavam vinculadas há muito mais tempo e ainda assim não produziram notificações. "Esta nova informação não muda nossa conclusão de que os alertas parentais são não confiáveis para situações de crise", disse Siegel.

A Common Sense Media diz que compartilhou os resultados de sua avaliação com a OpenAI antes do lançamento "de boa-fé para permitir que ela melhorasse seu produto", e espera que a empresa "se envolva com o conteúdo do que encontramos, em vez de tentar semear dúvidas sobre nossa metodologia". A OpenAI, enquanto isso, diz que permanece comprometida em trabalhar com especialistas para que os adolescentes possam aprender e criar — e os pais possam se sentir confiantes. Se essa confiança é justificada permanece, como sempre, uma questão de testes independentes.