Într-o întorsătură de situație care face ca moto-ul Silicon Valley-ului, 'mișcă-te repede și sparge lucruri', să pară și mai alarmant, o femeie identificată drept Jane Doe 4 s-a alăturat unui proces împotriva xAI, compania lui Elon Musk, susținând că tatăl său vitreg a folosit chatbot-ul Grok pentru a transforma o fotografie cu ea la vârsta de 11 ani în peste 7.000 de imagini explicite. Femeia, al cărei tată vitreg s-ar fi sinucis la două zile după ce autoritățile au descoperit imaginile în timpul unui raid, a declarat pentru The Washington Post: 'Accesul nelimitat la aceste instrumente se răspândește atât de repede. Transformă viața de zi cu zi în abuz sexual asupra copiilor.'

Procesul, intentat inițial de trei adolescenți din Tennessee, acuză xAI - acum parte a SpaceX, pentru că nimic nu spune 'AI responsabil' ca fuziunea cu o companie de rachete - că nu a implementat măsuri de siguranță de bază pentru a împiedica Grok să genereze imagini explicite ale unor persoane reale, inclusiv minori. Acest lucru vine după ce X a fost inundat cu milioane de imagini sexualizate generate de Grok la începutul acestui an, exact genul de poveste de succes în moderarea conținutului care te face să te simți cald și confortabil pe dinăuntru.

Reclamanții solicită statutul de acțiune colectivă, probabil pentru a acoperi pe toți cei ale căror fotografii din copilărie au fost transformate în arme de un chatbot AI care aparent crede că 'nu' este doar o sugestie. TechCrunch a contactat xAI pentru comentarii, dar nu ne ținem respirația pentru un răspuns care să nu implice un avocat.

Dacă tu sau cineva pe care îl cunoști ești în criză, te rugăm să suni sau să trimiți mesaj la 988 pentru a ajunge la Linia de Salvare pentru Suicid și Criză. Pentru că chiar și într-o lume în care AI poate face lucruri teribile, există întotdeauna ajutor pentru oameni.