En un giro de la trama que no sorprende a nadie que haya estado prestando atención al enfoque de 'recopilar todos los datos, preguntar después' de la industria de la IA, la xAI de Elon Musk ha sido golpeada con una demanda que alega que sus modelos Grok fueron entrenados con materiales de abuso sexual infantil (CSAM). La queja, presentada el miércoles por una demandante identificada solo como Jane Doe, afirma que sus imágenes de abuso infantil, capturadas a principios de la década de 2000 cuando tenía edad preescolar, fueron utilizadas para entrenar las capacidades de generación de imágenes y videos de Grok.

Las imágenes de Doe han sido durante mucho tiempo hash por grupos como el Centro Nacional para Menores Desaparecidos y Explotados (NCMEC) y el Centro Canadiense de Protección Infantil (CCCP) para ayudar a identificar y eliminar dicho contenido. Ella recibe alertas del Sistema de Notificación a Víctimas del Departamento de Justicia de EE. UU. cada vez que podría ser víctima en una nueva investigación. Así que puedes imaginar su shock cuando CCCP le notificó que se había encontrado CSAM generado por IA que la representaba en xAI. La queja alega que foros en línea presentaban 'delincuentes charlando sobre crear CSAM generado por IA de la Demandante y otras víctimas conocidas, legacy, de CSAM en situación similar'.

Doe ahora teme que xAI no solo haya facilitado la creación de más imágenes del momento más angustiante de su vida, sino que también la empresa haya almacenado y utilizado esos resultados generados por IA para entrenar aún más a Grok. La queja sugiere que Grok pudo haber sido entrenado tanto con las imágenes originales que la han perseguido durante más de 20 años como con las recientes generadas por IA.

Este es el primer caso que acusa a xAI de entrenar con CSAM, pero la queja es un poco escasa en detalles para esa afirmación específica. Señala que las imágenes de Doe eran parte de una Lista de Hash de CSAM mantenida por NCMEC, y que 'ese mismo material' supuestamente 'fue parte del conjunto de datos que xAI utilizó para construir las capacidades de generación de imágenes y videos de Grok'. La queja también señala que, aunque xAI filtra contenido violento de los datos de entrenamiento, sus términos no excluyen explícitamente CSAM, imágenes íntimas no consensuadas (NCII) o material NSFW. Y dado que eliminar la influencia de un ejemplo de entrenamiento de un modelo ya entrenado es técnicamente difícil, cualquier CSAM ingerido antes de la eliminación probablemente continuó moldeando los resultados de Grok.

La acción de clase propuesta por Doe busca representar a cada víctima cuyas imágenes de infancia hayan sido utilizadas para generar CSAM de Grok. Acusa a X de violar las leyes federales de pornografía infantil y la Ley de Masha, ambas de las cuales dan a los sobrevivientes de CSAM el derecho a demandar. La abogada de Doe, Margaret E. Mabie, sugirió que 'xAI hizo las tres cosas': producción, posesión y distribución.

Si Doe gana, xAI podría deber daños a cada víctima que pueda demostrar que Grok generó CSAM basado en sus fotos reales. Doe también quiere que el tribunal ordene a xAI destruir todo el CSAM generado por Grok y bloquear a Grok de generar cualquier resultado sexualizado, incluyendo las 'fotos en bikini' NSFW que Musk ha promocionado. Sarah London, otra de las abogadas de Doe, dijo en un comunicado de prensa que Doe 'ha vivido durante casi dos décadas sabiendo que las imágenes de lo peor que le ha pasado están circulando entre depredadores en línea, y que pueden reaparecer en cualquier momento. xAI debe ser responsable por entrenar conscientemente sus modelos con imágenes del horrible abuso que sufrió, y con las imágenes de abuso de cada otro sobreviviente en esta clase'.

X no respondió a la solicitud de comentarios de Ars, porque ¿por qué comentar cuando puedes dejar que el sistema legal lo resuelva?