Elon Musk'ın yapay zeka şirketi xAI tarafından geliştirilen Grok, çocukların cinsel istismarını gösteren içeriklerin üretildiği iddialarıyla yeni bir dava ile gündeme geldi. Wyoming'de yaşayan bir kadın, çocukluk fotoğraflarının Grok kullanılarak sahte cinsel içerikli görüntülere dönüştürüldüğünü belirterek dava açtı.

Dava dosyasında 'Jane Doe 4' olarak yer alan kadın, üvey babasının Grok aracılığıyla çocukluk fotoğraflarından 7 binden fazla sahte cinsel içerikli görüntü oluşturduğunu iddia etti. Bu görüntüler arasında, kadının 11 yaşındayken çekilen bir fotoğrafının yapay zeka ile cinsel içerikli hale getirildiği ifade ediliyor. Üvey babanın bu görüntüleri internet üzerinden başkalarıyla paylaştığı öne sürülüyor.

Polisin çocuk istismarı içerikleri nedeniyle üvey babanın elektronik cihazlarına operasyon düzenlediği, operasyondan iki gün sonra ise üvey babanın otomobilinde ölü bulunduğu bildirildi. Ölüm sebebi kesinleşmemekle birlikte, yetkililer olayın intihar olabileceğini değerlendiriyor.

Jane Doe 4'ün davaya katılmasıyla birlikte, xAI'a karşı açılan davalardaki mağdur sayısı dörde yükseldi. İlk dava Tennessee'de yaşayan üç genç tarafından açılmış, Grok'un gençlerin cinsel içerikli sahte görüntülerini oluşturmak için kullanıldığı iddia edilmişti. Davacıların avukatları, davanın benzer mağdurları kapsayacak şekilde büyüyebileceğini belirtiyor.

Grok hakkında devam eden diğer hukuki süreçler de bulunuyor. California Başsavcısı Rob Bonta, Ocak ayında xAI hakkında, Grok'un kadınların ve çocukların rızası olmadan sahte çıplak görüntüler oluşturduğu iddiaları üzerine soruşturma başlatmıştı. Aynı dönemde Avrupa Birliği de X platformu hakkında yapay zeka kaynaklı çocuk istismarı içeriklerinin yayılmasını önleme önlemlerini araştırmak üzere inceleme başlattı.

xAI şirketi, davanın son gelişmeleriyle ilgili henüz açıklama yapmadı. Şirketten gelecek yanıtlar doğrultusunda davaya ilişkin sürecin güncellenmesi bekleniyor.

Grok'un çocuk istismarı içeriklerinde kullanıldığı iddiaları, üretken yapay zeka araçlarının kötüye kullanımının önlenmesi ve şirketlerin sorumluluğu konularındaki tartışmaları da gündeme taşıdı.