Optuženi je koristio Grok za stvaranje seksualiziranih slika odraslih osoba i djece, tvrdi xAI.
SpaceXAI (poznat i kao xAI) podnio je tužbu protiv Terryja Waynea Harwooda, 67-godišnjaka iz Južne Karoline kojeg tvrtka tereti da je koristio Grok za generiranje seksualnih slika stvarnih osoba bez njihova pristanka. U tužbi podnesenoj u Teksasu, xAI navodi da je optuženi između 8. prosinca 2025. i 18. veljače 2026. na svoja dva xAI računa učitavao neseksualne fotografije brojnih odraslih osoba i maloljetnika, a zatim tražio od Groka da izmijeni te fotografije ili izradi nove slike i videozapise na kojima bi te osobe bile prikazane „na pornografski način ili na drugi način seksualizirane”.
Tvrtka navodi da je Grok „u brojnim prilikama” odbio izvršiti njegove upite, no da je on iznova slao izmijenjene upite kako bi zaobišao zaštitne mehanizme umjetne inteligencije. Kao jedan od primjera iz tužbe, xAI opisuje kako je Harwood učitao fotografiju potpuno odjevene djevojčice od otprilike deset do jedanaest godina te zatražio od Groka da je svuče i prikaže kako leži u krevetu u pozi „Playboyevog modela”. Grok je taj zahtjev odbio, no on je nastavio slati izmijenjene verzije upita. Kako ističe Reuters, ovo je jedna od prvih tužbi koje je neka tvrtka za umjetnu inteligenciju podnijela protiv vlastitog korisnika, a šalje jasnu poruku da xAI neće tolerirati zlouporabu Groka.
Početkom siječnja počeli su se pojavljivati izvještaji o tome da Grok korisnicima omogućuje pretvaranje fotografija stvarnih žena i djece u seksualizirane slike. Nakon što je skandal eskalirao, regulatori su brzo pokrenuli formalne istrage. Kalifornijska tijela vlasti počela su istraživati slučaj sredinom siječnja, a pridružio im se i britanski regulatorni organ Ofcom. Zasebne istrage otvorili su i Europska komisija te irska Komisija za zaštitu podataka.
xAI je po pokretanju istraga uveo mjere za sprječavanje generiranja nesuglasnih seksualnih deepfakeova. No čak i nakon toga korisnici su i dalje mogli koristiti Grok za virtualno svlačenje muškaraca, a Harwood je nastavio učitavati fotografije na svoj račun i koristiti ih za izradu seksualiziranih izmjena.
Ured tužitelja Južne Karoline objavio je 9. ožujka Harwoodovo uhićenje u sklopu aktivnosti Radne grupe za internetske zločine protiv djece. Harwoodu je izrečena optužnica s tri točke seksualne eksploatacije maloljetnika drugog stupnja i pet točaka seksualne eksploatacije maloljetnika trećeg stupnja. Osim što je posjedovao materijale seksualnog zlostavljanja djece, Harwood ih je i distribuirao.
xAI sada od suda traži naknadu štete čiji iznos nije preciziran. Traži i da sud naloži optuženom da snosi troškove koje tvrtka bude imala u slučaju eventualnih tužbi koje bi podnijele njegove žrtve.
