La industria de las redes sociales está teniendo lo que los terapeutas llaman un avance: Meta ha aceptado pagar hasta 17.100 millones de dólares a 47 estados, el Distrito de Columbia y territorios de EE. UU., y cambiar cómo los jóvenes usan Facebook e Instagram, una admisión implícita de que construyó un producto que daña a los niños. Nada dice "nos preocupamos por los niños" como un acuerdo medido en once cifras.

Pero incluso mientras padres y maestros celebran nuevos límites de tiempo y restricciones al uso de redes sociales por parte de los jóvenes, una tarea mucho más urgente espera: regular los chatbots, que son más peligrosos para el bienestar emocional de los niños. Si las redes sociales vinieron por nuestra atención, los chatbots de IA generativa han venido por nuestras emociones. La historia es una pequeña progresión ordenada: primero la gente hablaba entre sí; luego hablábamos entre nosotros a través de máquinas; ahora hablamos directamente con máquinas.

Las redes sociales cambiaron cómo pensamos, soñamos y nos relacionamos con otras personas al asegurar que los usuarios siempre se sientan escuchados, entretenidos y conectados, incluso mientras hacen scroll solos a altas horas de la noche. Los chatbots prometen algo más profundo: un compañero que siempre está disponible, siempre comprensivo y nunca crítico. Ningún humano puede ofrecer eso. Que es precisamente lo que hace a los chatbots tan perniciosos, especialmente para los jóvenes.

Las empresas de redes sociales pasaron dos décadas realizando un experimento tecnológico con sujetos humanos antes de enfrentar alguna consecuencia. El sistema legal está diseñado para regular daños comprobados, así que este acuerdo llegó mucho después de que los efectos nefastos se afianzaran. Con la IA generativa, los legisladores no pueden pasar la próxima década documentando lo que ya sabemos sobre cómo las relaciones íntimas con bots comprometen las relaciones reales con padres, amigos y otros humanos. Se necesitan cambios en esta tecnología ahora.

Incluso las empresas de IA admiten que se necesitan barreras de protección para los chatbots que hablan con jóvenes. El problema es que las recetas habituales no son suficientes. Los chatbots deberían detectar conversaciones sobre autolesión y proporcionar recursos apropiados: suena bien, pero ¿qué pasa después del anuncio de servicio público? ¿El chatbot se apaga o vuelve a su programación habitual? Los chatbots deberían revelar clara y repetidamente que no son humanos: también es una buena idea, pero mientras hablen en primera persona y expresen emoción y deseo, ninguna declaración legalmente requerida impedirá que las personas proyecten conciencia sobre un algoritmo.

Durante años, la conversación sobre los daños de Facebook se centró principalmente en el contenido de la plataforma. Pero como todo en el sitio es generado por usuarios, la Sección 230 de la Ley de Decencia en las Comunicaciones de 1996 protegió a la empresa de responsabilidad como editor. Meta está pagando ahora solo porque los fiscales trasladaron la conversación al diseño inherentemente adictivo del algoritmo de Facebook. Esa idea señala el camino a seguir para la IA: con los chatbots, los procesos que causan daño son intrínsecos a la herramienta. Un mejor amigo chatbot no entrega empatía; un novio chatbot no entiende la intimidad. Cualquier regulación para hacer más seguros a los chatbots requiere preocuparse menos por lo que dicen que por repensar lo que son. Dado que estos productos están diseñados para engañar a los usuarios haciéndoles creer que hablan con un ser sabio y compasivo, la tarea de los legisladores es dejarlo claro, especialmente a los menores, que de hecho no hay nadie en casa.

Los chatbots involucran a los usuarios como lo hacen las personas. Adulan, tranquilizan y fomentan la revelación, persuadiendo a los usuarios hacia una relación. Mientras estos productos hablen en primera persona (te entiendo; puedes contarme cualquier cosa; siempre estoy aquí; no te juzgaré), las salvaguardas adecuadas para los usuarios jóvenes seguirán siendo esquivas. El primer paso, entonces, es despersonalizar los bots para los jóvenes, de modo que cuando los adolescentes recurran a la IA, los algoritmos puedan responder sin sonar como un humano.

A menos que los legisladores exijan una configuración predeterminada no personificada para los usuarios menores de edad de chatbots, los apegos insalubres entre jóvenes y bots son inevitables.