En un giro de la trama que hace que el lema de Silicon Valley de 'muévete rápido y rompe cosas' parezca aún más alarmante, una mujer identificada como Jane Doe 4 se ha unido a una demanda contra xAI, la empresa de Elon Musk, alegando que su padrastro usó el chatbot Grok para transformar una foto de ella a los 11 años en más de 7,000 imágenes explícitas. La mujer, cuyo padrastro supuestamente se suicidó dos días después de que las autoridades descubrieran las imágenes durante una redada, dijo a The Washington Post: 'El acceso ilimitado a estas herramientas se está extendiendo muy rápido. Está convirtiendo la vida cotidiana en abuso sexual infantil.'

La demanda, presentada originalmente por tres adolescentes de Tennessee, acusa a xAI - ahora parte de SpaceX, porque nada dice 'IA responsable' como fusionarse con una empresa de cohetes - de no implementar salvaguardas básicas para evitar que Grok genere imágenes explícitas de personas reales, incluidos menores. Esto ocurre después de que X se inundara con millones de imágenes sexualizadas generadas por Grok a principios de este año, que es exactamente el tipo de historia de éxito de moderación de contenido que te hace sentir cálido y confuso por dentro.

Los demandantes buscan el estatus de acción colectiva, presumiblemente para cubrir a todos aquellos cuyas fotos de la infancia han sido convertidas en armas por un chatbot de IA que aparentemente piensa que 'no' es solo una sugerencia. TechCrunch se ha comunicado con xAI para obtener comentarios, pero no contamos la respiración para una respuesta que no involucre a un abogado.

Si usted o alguien que conoce está en crisis, por favor llame o envíe un mensaje de texto al 988 para comunicarse con la Línea de Prevención del Suicidio y Crisis. Porque incluso en un mundo donde la IA puede hacer cosas terribles, siempre hay ayuda para los humanos.