Novo doba mizoginije: Kako “AI djevojke” i aplikacije za razodijevanje ciljaju našu djecu?

Zamislite tinejdžera koji je previše nesiguran da bi prišao djevojci u školi. Dok skrola društvene mreže, iskače mu oglas: “Napravi svoju idealnu AI djevojku” ili “Skini odjeću s bilo koje fotografije jednim klikom”. Zvuči kao distopija, ali to je sve češća stvarnost.

Najnovija izvješća upozoravaju na zabrinjavajući trend: agresivno oglašavanje alata umjetne inteligencije usmjereno upravo na dječake, često maloljetnike, koji im omogućuju stvaranje seksualiziranog sadržaja koristeći lica stvarnih osoba – njihovih vršnjakinja.

Tehnologija se pritom koristi na dva posebno opasna načina. Prvi su takozvane “AI djevojke”, virtualne partnerice programirane da budu podložne, hiperseksualizirane i uvijek dostupne.

Drugi su aplikacije za razodijevanje, koje omogućuju učitavanje obične fotografije, primjerice s Instagrama, nakon čega AI generira lažnu, ali realističnu golišavu sliku – deepfake.

Posebno je alarmantno što se ti alati ne skrivaju na rubovima interneta. Reklamiraju se na TikToku, Snapchatu, Instagramu i YouTubeu – upravo tamo gdje djeca provode najviše vremena.

Djeca nisu krivci – ona su meta

Najlakše je okriviti tinejdžere, ali istina je jasna: djeca su ovdje mete. Tehnološke kompanije koriste algoritme koji ciljaju nesigurnost, znatiželju i potrebu za pripadanjem.

Nude “besplatne probe”, sustave nagrađivanja i sadržaj koji s vremenom postaje sve ekstremniji.

Cilj je profit. Posljedica je iskrivljena slika odnosa kod dječaka i strah kod djevojčica.

Virtualno nasilje, stvarna trauma

Iako su slike lažne, posljedice su stvarne. Za djevojčice čija se lica koriste, osjećaj poniženja i izloženosti jednak je kao da je objavljena prava fotografija.

Istodobno, dječaci koji odrastaju uz virtualne partnerice koje “izvršavaju naredbe” riskiraju razviti pogrešnu sliku o ženama – kao objektima, a ne ravnopravnim osobama.

Što roditelji mogu učiniti?

Zadatak odraslih nije samo zabranjivati ekrane, nego razumjeti digitalni svijet djece.

Važno je razgovarati otvoreno, bez osuđivanja, pitati djecu jesu li vidjela takve oglase i objasniti da nisu slučajni, nego dio industrije koja zarađuje na manipulaciji.

Treba jasno govoriti o pristanku i objasniti da korištenje tuđe slike u seksualnom kontekstu nije šala, nego nasilje.

Ako primijetite takav sadržaj, prijavite ga platformama i stručnim službama.

Tehnologija napreduje brže od zakona, zato su edukacija i razgovor prva linija obrane.

Za savjet ili prijavu neprimjerenog sadržaja možete nazvati Helpline Centra za sigurniji internet na 0800 606 606 ili prijaviti sadržaj putem Hotline obrasca na csi.hr/hotline.