OpenAI está lanzando un modo dedicado de ChatGPT para adolescentes, agrupando las salvaguardas existentes para jóvenes con algunas nuevas funciones de seguridad bajo un único banner amigable para adolescentes. La medida llega mientras la empresa enfrenta un creciente escrutinio público sobre cómo las herramientas de IA afectan a los usuarios más jóvenes, con otras plataformas también implementando sus propias verificaciones de edad y protecciones específicas para adolescentes.

ChatGPT para adolescentes es "una experiencia diseñada para ayudar a los adolescentes a aprender, pensar críticamente, profundizar su comprensión y usar la IA con confianza", declaró OpenAI en una publicación de blog el martes. El modo se aplicará automáticamente a los usuarios que se identifiquen como de entre 13 y 17 años, así como a aquellos que el sistema estime que son menores de 18. Los niños menores de 13 no están permitidos en la plataforma, según la política de edad publicada por OpenAI, así que no, tu hijo de 12 años no puede simplemente afirmar que tiene 13 y salirse con la suya. En realidad, probablemente pueda, pero esa es otra historia.

La experiencia para adolescentes aplica protecciones por defecto, incluyendo restricciones más estrictas sobre contenido prohibido o sensible como violencia gráfica, representaciones de autolesiones y juegos de rol sexuales o románticos. También mostrará advertencias e información de seguridad sobre temas como trastornos alimentarios, mientras brinda a los padres controles para establecer horarios de silencio y recibir notificaciones sobre alertas de seguridad si el sistema detecta un riesgo potencial.

Otras características buscan fomentar lo que OpenAI llama "uso saludable y equilibrado", incluyendo recordatorios sobre cargas de imágenes sensibles, incorporación específica para adolescentes y opciones de personalización como colores de acento y variaciones de voz. OpenAI también está añadiendo nuevos "recordatorios responsables de tareas", que según dice pueden detectar cuando un adolescente parece estar "tratando de tomar atajos en una tarea" y redirigirlo al modo de estudio dedicado de ChatGPT. Los adolescentes o los padres también pueden establecer "horas de estudio" que activan automáticamente el modo de estudio durante horarios designados, porque nada dice 'equilibrio saludable' como estudiar forzadamente.

Aunque OpenAI presenta esto como una nueva experiencia brillante centrada en adolescentes, muchas de las protecciones no son nuevas. El lanzamiento consolida en gran medida las salvaguardas existentes con un puñado de adiciones y ajustes menores. OpenAI implementó funciones de predicción de edad a principios de año, mientras que los controles parentales y el modo de estudio llegaron hace aproximadamente un año. La compañía dijo que mostraría a los adolescentes recordatorios de descanso más frecuentes el mes pasado, una característica que, francamente, los adultos también podrían usar.

OpenAI dice que sus protecciones para adolescentes están "respaldadas por investigación continua en seguridad" y que planea publicar más de "lo que estamos aprendiendo" en el futuro, así como construir características de seguridad adicionales para ayudar a los adolescentes a beneficiarse de la IA. "Pero ese acceso debe venir con protecciones que reflejen su etapa de desarrollo, refuercen las relaciones del mundo real y apoyen el uso saludable con el tiempo. ChatGPT para adolescentes es nuestro próximo paso para construir hacia ese estándar". Lo creeremos cuando veamos que los recordatorios de tareas realmente funcionan.