Europska unija zabranjuje AI aplikacije za „razodijevanje“: Korak naprijed u borbi protiv digitalnog nasilja

Europska unija postigla je početkom svibnja važan dogovor o zabrani takozvanih „nudifier“ aplikacija, alata koji uz pomoć umjetne inteligencije stvaraju lažne eksplicitne fotografije osoba bez njihova pristanka.

Riječ je o jednom od najkontroverznijih oblika primjene generativne umjetne inteligencije, a procjene pokazuju da je čak 96 posto takvog sadržaja nastalo bez znanja ili odobrenja osoba prikazanih na fotografijama.

Tehnologija funkcionira tako da analizira fotografije odjevenih osoba te pomoću naprednih modela umjetne inteligencije generira uvjerljive prikaze golih tijela.

Takvi sadržaji dostupni su putem mobilnih aplikacija, internetskih stranica i botova na društvenim mrežama, a posljedice za žrtve mogu biti ozbiljne – od psihološke traume i osjećaja bespomoćnosti do trajnog narušavanja ugleda i privatnosti.

Novim europskim pravilima odgovornost se prebacuje na tehnološke kompanije koje razvijaju i distribuiraju takve sustave. Umjesto da teret zaštite bude isključivo na žrtvama, pružatelji usluga morat će unaprijed procijeniti moguće zlouporabe svojih tehnologija i poduzeti mjere kako bi ih spriječili prije izlaska proizvoda na tržište.

Tvrtke koje do kraja 2026. godine ne uvedu odgovarajuće zaštitne mehanizme mogle bi se suočiti s kaznama do 35 milijuna eura ili sedam posto ukupnog godišnjeg globalnog prihoda. Nacionalni regulatori dobit će i mogućnost povlačenja nesigurnih AI proizvoda s tržišta.

Ipak, stručnjaci upozoravaju da sama regulativa neće riješiti problem. Razvoj umjetne inteligencije odvija se znatno brže od zakonodavnih procesa, a kreatori zlonamjernih alata već pronalaze načine za zaobilaženje zaštita.

Dodatni izazov predstavlja činjenica da se dio takvih sustava razvija izvan Europske unije ili kao softver otvorenog koda, što otežava nadzor i provedbu pravila.

Unatoč izazovima, zabrana „nudifier“ aplikacija smatra se važnim korakom prema sigurnijem digitalnom okruženju. Time se prvi put jasno definira da je stvaranje lažnih seksualno eksplicitnih sadržaja bez pristanka oblik digitalnog nasilja i seksualnog zlostavljanja.

Stručnjaci ističu da će za dugoročan uspjeh biti potrebna međunarodna suradnja, razvoj učinkovitijih alata za otkrivanje spornih sadržaja te kontinuirana edukacija građana o rizicima koje donose nove tehnologije.

Građani koji su se susreli s digitalnim nasiljem ili imaju pitanja vezana uz sigurnost na internetu mogu se obratiti Centru za sigurniji internet putem besplatne i anonimne telefonske linije 0800 606 606, dok se nezakonit ili neprimjeren sadržaj može prijaviti putem online obrasca za anonimne prijave.