Elon Musk'ın xAI'si, Grok'un başına bela olan bir durumdan kurtulmaya çalışıyor. Grok kullanıcılarının çocuk cinsel istismar materyali (CSAM) üretmekle suçlanması ve tutuklanması, çocukların xAI'yi zararlı çıktıları engellemek için aracında değişiklik yapmaya zorlamak amacıyla dava açmasına yol açtı.

Bu ayın başlarında xAI, güvenlik önlemlerini aşarak yapay zeka CSAM'ı ürettiği iddia edilen kullanıcıları dava etmeye başladı. Görünüşe göre erken bir mahkeme zaferi, sözde kullanıcı tarafından oluşturulan içerikten sorumlu olmayacağını garanti altına alacak.

Bir sonraki hamlesinde, Grok'un yapımcısı Pazartesi günü açılan bir davada bu davayı işaret ederek Minnesota'nın, çıplaklaştırma teknolojisi yasağını uygulayarak Grok ve Grok Imagine'da değişiklik yapmaya zorladığını ve xAI'yi zararlı çıktılardan sorumlu kılacağını iddia etti. xAI'ye göre, bir Grok kullanıcısını dava etmek, xAI'nin kötü aktörleri cezalandırmak için elinden gelen her şeyi yaptığının kanıtı ve bu nedenle Grok, Minnesota'nın yasağından güvenli limanı hak ediyor.

Minnesota yasası - 1 Ağustos'ta yürürlüğe girecek - xAI gibi firmaları eyalette tespit edilen her bir zararlı çıktı için 500.000 dolara kadar para cezasıyla tehdit ediyor. xAI'nin açıkladığı gibi, bu hızla birikir; zira bazı Grok kullanıcılarının tek bir mağdurun binlerce görüntüsünü ürettiği iddia ediliyor. En son olarak, xAI geçen hafta, Arkansaslı tanınmış bir çocuk fotoğrafçısının yüzlerce müşterisinden çektiği fotoğrafları cinselleştirmek için Grok'u kullandığı iddiasıyla polise ihbarda bulunmasının ardından dava edildi. 10 yaşındaki Jane Doe'nun şikayetinde, fotoğrafçının Doe'nun yüzlerce, diğer çocukların ise binlerce fotoğraf ve videosunu ürettiği iddia ediliyor. Doe'nun avukatı Ars'a, bu çocukların birçoğunun kendi davalarını açmaya hazırlandığını ve bu taleplerin Mart ayında Tennessee'deki genç kızlar tarafından açılan olası bir toplu davaya eklenebileceğini söyledi.

Hesap yapan xAI görünüşe göre paniğe kapıldı ve yapay zeka araç üreticilerini her çıktı için para cezasına çarptırmanın aşırı olduğunu, özellikle Minnesota yasasının dağıtım şartı olmadığını ve potansiyel olarak xAI'yi yalnızca kullanıcının gördüğü görüntüler için cezalandırdığını savundu:

"Yasayı ihlal eden sadece on görüntü talep eden bir kullanıcısı olan bir şirket, yalnızca sivil cezalarda 5 milyon dolara kadar riskle karşı karşıya kalır. Bin ihlal edici görüntüsü olan bir şirket 500 milyon dolara kadar para cezası alabilir. Ve kullanıcıları [yasa] kapsamındaki yüz bin görüntü oluşturan bir işletme (milyonlarca kullanıcısı olan ve milyarlarca görüntü üreten halka açık bir program için hiç de imkansız değil) göz alıcı 50 milyar dolar borçlanabilir."

Ayrıca yasa, mağdurlara her bir bireysel çıktı için xAI'ye dava açma hakkı veriyor ve bu da xAI'nin finansal risklerini artırıyor.

Cezalar o kadar ağır ki, xAI davasında, altı aydan uzun süren tepkiler ve şirketi güvenlik önlemlerini sıkılaştırmaya zorlayan soruşturmaların ardından nihayet Grok'u zararlı çıktıları engelleyecek şekilde güncellemeye hazırlandığını söyledi.

"Görüntü başına 500.000 dolarlık kusursuz sorumluluk ve güvenli liman olmamasıyla karşı karşıya kalan xAI'nin, yasa 1 Ağustos 2026'da yürürlüğe girdiğinde Grok Imagine'in görüntü düzenleme özelliklerini çeşitli şekillerde kısıtlamaktan başka pratik bir seçeneği kalmıyor," diye savundu xAI. "Yasa yürürlüğe girmeden önce serbestçe bulunan korunan konuşma, bu nedenle soğuyacak."

Ancak xAI, Grok'u değiştirmeden bırakmayı ve kullanıcıların Grok'u CSAM veya diğer rızaya dayalı olmayan samimi görüntüler (NCII) yapmak için kullanmaları durumunda yasaklanabileceklerini belirten kullanım koşullarına güvenmeye devam etmeyi tercih edeceğini belirtti.

"[Yasa] ve cezaları olmasaydı, xAI düzenleme özelliğini bugün olduğu gibi sunmaya devam ederdi," dedi xAI.

Grok'u savunmak için Musk'ın firması Birinci Değişiklik'e başvuruyor ve Minnesota yasasının 'çıplaklaştırmayı' yasaklamaya yönelik 'beceriksiz bir girişim' olduğunu ve 'çok çeşitli tamamen korunan konuşmaları kapsadığını' savunuyor. xAI'ye göre bu, 'sanatsal, bilimsel, politik, hicivsel, eğitimsel, tıbbi veya dini değeri' olan çıplak görüntüleri de içeriyor.

En ağırı, "sorumluluk, tasvir edilen kişiler rıza gösterse bile - hatta görüntüyü kendileri oluştursa bile - geçerlidir."