xAI, la empresa de Elon Musk, intenta litigar para salir de un aprieto con Grok, mientras los arrestos de usuarios de Grok acusados de crear material de abuso sexual infantil (CSAM) han desencadenado demandas de menores contra xAI para forzar cambios en la herramienta que bloqueen resultados dañinos.

A principios de este mes, xAI comenzó a demandar a usuarios que supuestamente eluden sus salvaguardas para generar CSAM con IA, aparentemente esperanzada de que una victoria judicial temprana garantice que no es responsable por contenido supuestamente generado por usuarios.

Como siguiente movimiento, el creador de Grok señaló esa demanda en una queja presentada el lunes, acusando a Minnesota de intentar forzar cambios en Grok y Grok Imagine al hacer cumplir una prohibición de tecnología de desnudez que garantizaría que xAI fuera responsable por los resultados dañinos, así como por resultados que supuestamente no sexualizaban a personas sin consentimiento. Según xAI, demandar a un usuario de Grok es prueba de que xAI ya está haciendo todo lo posible para castigar a los malos actores y, por lo tanto, Grok merece un puerto seguro de la prohibición de Minnesota.

La ley de Minnesota, que entrará en vigor el 1 de agosto, amenaza a empresas como xAI con multas de hasta 500.000 dólares por cada resultado dañino descubierto en el estado. Como explicó xAI, eso suma rápidamente, considerando que algunos usuarios de Grok están acusados de hacer miles de imágenes de una sola víctima. Más recientemente, xAI fue demandada la semana pasada después de alertar a la policía sobre un conocido fotógrafo infantil de Arkansas que supuestamente usó Grok para sexualizar imágenes que tomó de cientos de clientes. En una queja de una menor de 10 años identificada como Jane Doe, se alega que el fotógrafo hizo cientos de imágenes de Doe y miles de imágenes y videos de otros niños. El abogado de Doe dijo a Ars que muchos de esos niños se preparan para presentar sus propias demandas, y esos reclamos podrían terminar agregándose a una posible demanda colectiva presentada en marzo por niñas en Tennessee.

Haciendo cálculos, xAI aparentemente entró en pánico, argumentando que multar a los creadores de herramientas de IA por cada resultado es excesivo, particularmente porque la ley de Minnesota no tiene requisito de distribución y potencialmente multa a xAI por imágenes que solo vio el usuario:

“Una empresa cuyos usuarios soliciten solo diez imágenes en violación del estatuto enfrentaría una exposición de hasta 5 millones de dólares solo en sanciones civiles. Una empresa con mil imágenes infractoras podría ser multada hasta con 500 millones de dólares. Y un negocio cuyos usuarios crearan cien mil imágenes cubiertas por [la ley] (nada improbable para un programa disponible públicamente con millones de usuarios generando miles de millones de imágenes) podría deber la asombrosa cifra de 50 mil millones de dólares”.

Además, la ley otorga a las víctimas el derecho de demandar a xAI por cualquier resultado individual, lo que aumenta los riesgos financieros de xAI.

Las sanciones son tan severas, dijo xAI en su demanda, que finalmente se preparaba para actualizar Grok para bloquear resultados dañinos después de más de seis meses de reacciones negativas y presiones que instaban a la empresa a endurecer sus salvaguardas.

“Confrontada con una responsabilidad estricta de 500.000 dólares por imagen y sin puerto seguro, xAI no tiene otra opción práctica que restringir las funciones de edición de imágenes de Grok Imagine de varias maneras cuando el estatuto entre en vigor el 1 de agosto de 2026”, argumentó xAI. “El discurso protegido que estaba libremente disponible antes de que la ley entre en vigor se verá así sofocado”.

Sin embargo, xAI preferiría dejar Grok sin cambios y continuar confiando en sus términos de uso que estipulan que los usuarios podrían ser prohibidos por usar Grok para hacer CSAM u otros tipos de imágenes íntimas no consentidas (NCII), según su queja.

“Pero por [la ley] y sus sanciones, xAI continuaría ofreciendo la función de edición exactamente como lo hace hoy”, dijo xAI.

Para defender a Grok, la firma de Musk recurre a la Primera Enmienda, argumentando que la ley de Minnesota es un “torpe intento de prohibir la ‘desnudez’” que “abarca una amplia gama de discursos totalmente protegidos”. Eso incluye imágenes de desnudos generadas con “valor artístico, científico, político, satírico, educativo, médico o religioso”, argumentó xAI.

Lo más grave es que “la responsabilidad se aplica incluso si las personas representadas consintieron, o crearon la imagen ellas mismas”.