A OpenAI está lançando um modo dedicado do ChatGPT para adolescentes, agrupando as salvaguardas existentes para jovens com alguns novos recursos de segurança sob um único banner amigável para adolescentes. A medida chega em meio à crescente pressão pública sobre como as ferramentas de IA afetam usuários mais jovens, com outras plataformas também implementando suas próprias verificações de idade e proteções específicas para adolescentes.

O ChatGPT para Adolescentes é "uma experiência projetada para ajudar os adolescentes a aprender, pensar criticamente, aprofundar a compreensão e usar a IA com confiança", declarou a OpenAI em um post no blog na terça-feira. O modo será aplicado automaticamente a usuários que se identificam como tendo entre 13 e 17 anos, bem como àqueles que o sistema estima ter menos de 18 anos. Crianças menores de 13 anos não são permitidas na plataforma, de acordo com a política de idade publicada pela OpenAI - então não, seu filho de 12 anos não pode simplesmente afirmar ter 13 anos e se safar. Na verdade, ele provavelmente pode, mas isso é outra história.

A experiência para adolescentes aplica proteções por padrão, incluindo restrições mais rígidas a conteúdo proibido ou sensível, como violência gráfica, representações de automutilação e roleplay sexual ou romântico. Também exibirá avisos e informações de segurança em tópicos como distúrbios alimentares, além de dar aos pais controles para definir horários de silêncio e receber notificações sobre alertas de segurança se o sistema sinalizar um risco potencial.

Outros recursos visam incentivar o que a OpenAI chama de "uso saudável e equilibrado", incluindo lembretes em torno de uploads de imagens sensíveis, integração específica para adolescentes e opções de personalização, como cores de destaque e variações de voz. A OpenAI também está adicionando novos "lembretes de lição de casa responsáveis", que, segundo ela, podem detectar quando um adolescente parece estar "tentando atalhar uma tarefa" e redirecioná-lo para o modo de estudo dedicado do ChatGPT. Adolescentes ou pais também podem definir "horários de estudo" que ativam automaticamente o modo de estudo em horários designados - porque nada diz 'equilíbrio saudável' como estudo forçado.

Embora a OpenAI enquadre isso como uma nova experiência brilhante focada em adolescentes, muitas das proteções não são novas. O lançamento consolida em grande parte as salvaguardas existentes com um punhado de adições e ajustes menores. A OpenAI implementou recursos de previsão de idade no início do ano, enquanto os controles parentais e o modo de estudo chegaram há cerca de um ano. A empresa disse que mostraria aos adolescentes lembretes de pausa mais frequentes no mês passado - um recurso que, francamente, os adultos também poderiam usar.

A OpenAI diz que suas proteções para adolescentes são "fundamentadas em pesquisa contínua de segurança" e que planeja publicar mais do "que estamos aprendendo" no futuro, bem como construir recursos de segurança adicionais para ajudar os adolescentes a se beneficiarem da IA. "Mas esse acesso deve vir com proteções que reflitam seu estágio de desenvolvimento, reforcem relacionamentos do mundo real e apoiem o uso saudável ao longo do tempo. O ChatGPT para Adolescentes é o nosso próximo passo para construir esse padrão." Acreditaremos quando virmos os lembretes de lição de casa realmente funcionando.