في تطور مفاجئ لا يدهش أي شخص كان يتابع نهج صناعة الذكاء الاصطناعي القائل بـ'اجمع كل البيانات، واسأل لاحقًا'، تم اتهام شركة xAI المملوكة لإيلون ماسك بدعوى قضائية تزعم أن نماذج Grok تم تدريبها على مواد اعتداء جنسي على الأطفال (CSAM). الدعوى، التي رفعتها يوم الأربعاء مدعية تُعرف فقط باسم 'جين دو'، تزعم أن صور اعتداء طفولتها - التي التُقطت في أوائل العقد الأول من القرن الحادي والعشرين عندما كانت في سن ما قبل المدرسة - استُخدمت لتدريب قدرات Grok على توليد الصور والفيديو.

لطالما تم تجزئة صور دو من قبل مجموعات مثل المركز الوطني للأطفال المفقودين والمستغلين (NCMEC) والمركز الكندي لحماية الطفل (CCCP) للمساعدة في تحديد وإزالة هذا المحتوى. وهي تتلقى تنبيهات من نظام إخطار الضحايا التابع لوزارة العدل الأمريكية كلما كانت ضحية محتملة في تحقيق جديد. لذا يمكنك تخيل صدمتها عندما أبلغها CCCP أنه تم العثور على محتوى CSAM مُنشأ بالذكاء الاصطناعي يصورها على xAI. تزعم الدعوى أن المنتديات عبر الإنترنت تضمنت 'مجرمين يتحدثون عن إنشاء محتوى CSAM مُنشأ بالذكاء الاصطناعي للمدعية وغيرها من الضحايا المعروفين والقدامى المماثلين.'

الآن تخشى دو من أن xAI لم تجعل من السهل إنشاء المزيد من الصور لأكثر فترة مؤلمة في حياتها فحسب، بل إن الشركة قامت أيضًا بتخزين واستخدام تلك المخرجات المُنشأة بالذكاء الاصطناعي لتدريب Grok بشكل إضافي. تشير الدعوى إلى أن Grok ربما تم تدريبه على كل من الصور الأصلية التي تطاردها منذ أكثر من 20 عامًا والصور المُنشأة بالذكاء الاصطناعي الحديثة.

هذه هي أول قضية تتهم xAI بالتدريب على CSAM، لكن الدعوى تفتقر إلى التفاصيل حول هذا الادعاء المحدد. وتشير إلى أن صور دو كانت جزءًا من قائمة تجزئة CSAM التي يحتفظ بها NCMEC، وأن 'نفس المادة' يُزعم أنها 'كانت جزءًا من مجموعة البيانات التي استخدمتها xAI لبناء قدرات Grok على توليد الصور والفيديو.' وتشير الدعوى أيضًا إلى أنه بينما تقوم xAI بتصفية المحتوى العنيف من بيانات التدريب، فإن شروطها لا تستبعد صراحةً CSAM أو الصور الحميمة غير التوافقية (NCII) أو المواد الإباحية. وبما أن إزالة تأثير مثال تدريبي من نموذج مُدرَّب بالفعل أمر صعب تقنيًا، فإن أي CSAM تم تناوله قبل الإزالة ربما استمر في تشكيل مخرجات Grok.

تسعى الدعوى الجماعية المقترحة من دو إلى تمثيل كل ضحية استُخدمت صور طفولتها لتوليد CSAM عبر Grok. وتتهم X بانتهاك القوانين الفيدرالية للمواد الإباحية للأطفال وقانون ماشا، وكلاهما يمنح الناجين من CSAM الحق في رفع دعوى. واقترحت محامية دو، مارغريت إي مابي، أن 'xAI فعلت الثلاثة' - الإنتاج والحيازة والتوزيع.

إذا فازت دو، فقد تدين xAI بتعويضات لكل ضحية يمكنها إثبات أن Grok ولّد CSAM بناءً على صورهم الحقيقية. كما تطلب دو من المحكمة أن تأمر xAI بتدمير جميع محتوى CSAM المُنشأ بواسطة Grok ومنع Grok من توليد أي مخرجات جنسية، بما في ذلك 'صور البيكيني' الإباحية التي روج لها ماسك. وقالت سارة لندن، محامية أخرى لدو، في بيان صحفي إن دو 'عاشت لما يقرب من عقدين وهي تعلم أن صور أسوأ شيء حدث لها تتداول بين المفترسين عبر الإنترنت، وأنها يمكن أن تظهر في أي لحظة. يجب محاسبة xAI على تدريب نماذجها عن علم على صور الاعتداء المروع الذي تعرضت له، وعلى صور الاعتداء لكل ناجٍ آخر في هذه الفئة.'

لم تستجب X لطلب Ars للتعليق - لأن لماذا تعلق بينما يمكنك فقط ترك النظام القانوني يحل الأمر؟