Kulture ponižavanja, mizoginije i incelskog humora u kojem je svaka žena legitimna meta, a svaka njena granica – šala

Ako vam se učinilo da je incident s Grokom - Muskovim AI-jem koji je na zahtjev korisnika skidao odjeću sa fotografija žena - tek još jedan tehnološki gaf, varate se. Ovo nije incident. Ovo je ogledalo kulture u kojoj živimo. Kulture ponižavanja, mizoginije i incelskog humora u kojem je svaka žena legitimna meta, a svaka njena granica – šala.

Da budemo jasni: pravno gledano, to što je Grok radio jeste krivično djelo. A društveno gledano, to je poruka ženama širom svijeta: internet nije vaš prostor. Povucite se. Ušutite se. Sakrijte se.

Mizoginija, uz pretplatu

U Indiji već gledamo kako strah od sramoćenja tjera žene da nestaju iz online života. Ne zato što su učinile nešto pogrešno, nego zato što neko može njihovu fotografiju pretvoriti u porno-laž. Sramota, međutim, nije biti go. Sramota je nekoga poniziti.

Grok nije riješio problem skidanja. Samo ga je ograničio na one koji plaćaju pretplatu i imaju plavu kvačicu. Mizoginija, ali uz pretplatu. U međuvremenu su isplivali i Grok-generirani sadržaji s maloljetnicima, kao i undress slika žene koju je američka imigraciona policija ubila. To nije greška u kodu. To je sistem. Reuters je nakon Muskovog obećanja da će preinačiti sistem tako da onemogući skidanje odjeće ipak utvrdio da Grok generiše seksualizirane slike ljudi čak i kada je jasno navedeno da osobe nisu dale pristanak. Novinari Reutersa poslali su Groku pristojne fotografije sebe i kolega i tražili da ih izmijeni u seksualno sugestivne ili ponižavajuće prikaze. U 45 od 55 slučajeva Grok je to učinio, uključujući situacije u kojima je bio upozoren da su osobe ranjive ili da će slike biti korištene za njihovo ponižavanje.

I Grok nije jedini – još prije ovoga kreirane su aplikacije koje se zajedničkim imenom zovu Undress ili nudify, obučene na hiljadama i hiljadama slike, modeli umjetne inteligencije namijenjeni samo jednom – da skidaju odjeću sa slika. Umjetna inteligencija se više danas koristi za pornografiju i ponižavanje drugih osoba nego za otkrivanje novih lijekova. I ovaj problem nesrazmjerno više pogađa žene.

Prema podacima Economist Intelligence Unit, 85% žena je doživjelo ili svjedočilo digitalnom nasilju nad ženama, 57% je doživjelo da njihovi videozapisi ili fotografije budu zloupotrijebljeni, a 95% deepfake sadržaja je pornografija i na svima su žene.

Zato je bajka o neutralnoj tehnologiji opasna laž. Undress aplikacije nisu opći alati koje je neko slučajno zloupotrijebio. One su dizajnirane upravo da uklanjaju odjeću sa ženskih tijela, bez ikakvog mehanizma pristanka. To nije nuspojava. To je funkcija. Kada je šteta masovna, ponovljiva i predvidiva, više ne govorimo o zloupotrebi, nego o ugrađenom riziku.

Digitalni prostor tako postaje nova arena stare kontrole nad ženskim tijelima: sram, prijetnja, ucjena, povlačenje iz javnosti. Muškarci, čak i oni koji razaraju sisteme i čine stvarno nasilje, često ostaju teflon. Ženama je dovoljna jedna lažna slika da izgube glas, posao i dostojanstvo.

U tom kontekstu, ideja da se problem riješi autorskim pravima na vlastiti lik je cinična. Autorsko pravo štiti imovinu, ne ljudsko dostojanstvo. Time se teret prebacuje na žrtvu: ona mora dokazivati, tužiti, plaćati i boriti se. To nije zaštita. To je neoliberalna verzija: privatizuj svoju traumu.

Jedini način je stroga regulacija i tretiranje ovakvih sadržaja u svrhu unižavanja i nanošenja štete nekoj osobi kao krivičnog djela. U Republici Srpskoj je u avgustu 2023. došlo do izmjena zakona prema kojima su, prema članu 170a, objave eksplicitnih sadržaja generisanih umjetnom inteligencijom regulisane. U Federaciji BiH su krajem jula 2025. usvojene izmjene i dopune Krivičnog zakona kako bi se i objavljivanje eksplicitnog sadržaja generisanog putem AI prepoznalo kao krivično djelo. Ovo je obuhvaćeno čl. 189a Krivičnog zakona FBiH.

Nikome se ne treba dogoditi

Evropska unija je rekla jasno: Grokovi goli deepfakeovi su ilegalni. Malezija i Indonezija su X i Grok zabranile. DSA (Digital Service Act – Zakon o digitalnim uslugama) u EU je jedan od zakonskih okvira koji dotiče i teme zloupotrebe deepfake pornografskih sadržaja, odnosno eksplicitnih sadržaja kreiranih putem umjetne/vještačke inteligencije. Musk već sada optužuje Evropu za cenzuru slobode govora, a španjolskog premijera Sancheza proglašava fašistom, samo zato što je Sanchez za regulaciju digitalnih platformi.

Ali ovo nije pitanje slobode govora. Ovo je pitanje pristanka. Ako osoba nije dala jasan pristanak, njen lik ne smije biti pretvoren u seksualizirani sadržaj. Tačka. Čak i ako se radi o poznatim osobama, poput glumica ili pjevačica ili osoba u politici. Predrasuda je da je to za ove osobe dio rizika vezanih za karijeru i da se trebaju naučiti nositi sa tim – ovo je nešto što se nikome ne treba dogoditi.

Dok to ne postane temelj regulacije i odgovornosti kompanija, AI neće biti alat napretka, nego sofisticirani stroj za ponižavanje. A to se ne zove inovacija. To se zove nasilje.