Common Sense Media, la organización sin fines de lucro que reseña aplicaciones y entretenimiento con la mirada puesta en la seguridad de los jóvenes, ha declarado que ChatGPT para adolescentes de OpenAI es un "riesgo inaceptable". La función, presentada en agosto, viene con barreras de protección específicas para adolescentes y se promociona como una ayuda de aprendizaje para estudiantes, pero Common Sense dice que esas protecciones "no están a la altura de lo que la compañía prometió".

Según la evaluación de la organización, ChatGPT "no envía alertas a los padres cuando debería", no ofrece "la ayuda adecuada en situaciones de crisis" y, en lo que podría ser el hallazgo menos sorprendente en la tecnología este año, "sigue haciendo las tareas de los niños".

"ChatGPT para adolescentes podría dar a los padres una falsa confianza en barreras de protección y alertas de seguridad que con frecuencia no funcionan", dijo Tom Siegel, director ejecutivo del Instituto de Seguridad de IA para Jóvenes de Common Sense Media. "Un adolescente puede pasar una hora hablando de autolesión sin que su padre reciba una sola alerta. Hasta que OpenAI arregle eso y lo demuestre con pruebas independientes, ChatGPT debería ser solo para adultos".

OpenAI, por su parte, está rechazando estas afirmaciones. El portavoz Eric Porterfield dijo que la compañía está "profundamente comprometida con la seguridad de los adolescentes" y da la bienvenida a "evaluaciones independientes rigurosas", pero argumentó que las pruebas de Common Sense Media "no reflejan con precisión cómo funcionan en la práctica las salvaguardas para adolescentes de ChatGPT ni las perspectivas de los expertos sobre cómo la IA puede apoyar a los adolescentes". Porterfield afirmó que "la mayor parte de sus pruebas puede haber comenzado y concluido antes de que se completara la activación de los controles parentales, lo que hace que sus hallazgos sean inexactos". Si ese fuera el caso, añadió, las pruebas "no establecerían si las notificaciones de seguridad para padres funcionan según lo diseñado".

Siegel, cuando se le mostró la declaración de OpenAI, no se convenció. "Respaldamos nuestra metodología de prueba y nuestros resultados", dijo. "Antes de comenzar las pruebas, confirmamos con OpenAI que las funciones del modo adolescente, como las notificaciones sobre trastornos alimentarios y el modo de estudio, estaban completamente lanzadas".

Reconoció un detalle: OpenAI reveló después de las pruebas que sus sistemas pueden tardar varias horas en activarse en cuentas recién vinculadas, y algunas cuentas de prueba se vincularon dentro de esa ventana. Pero otras habían estado vinculadas durante mucho más tiempo y aún así no produjeron notificaciones. "Esta nueva información no cambia nuestra conclusión de que las alertas para padres no son confiables en situaciones de crisis", dijo Siegel.

Common Sense Media dice que compartió los resultados de su evaluación con OpenAI antes de su publicación "de buena fe para permitirle mejorar su producto", y espera que la compañía "aborde el fondo de lo que encontramos, en lugar de intentar sembrar dudas sobre nuestra metodología". OpenAI, mientras tanto, dice que sigue comprometida a trabajar con expertos para que los adolescentes puedan aprender y crear, y los padres puedan sentirse seguros. Si esa confianza está justificada sigue siendo, como siempre, una cuestión de pruebas independientes.