Alarmantni skok: OpenAI zabilježio dramatičan porast prijava iskorištavanja djece!

U prvoj polovici 2025. OpenAI je Nacionalnom centru za nestalu i zlostavljanu djecu u SAD-u poslao čak 80 puta više prijava nego godinu ranije. Iza dramatične statistike krije se složena priča o rastu platformi, napretku detekcije i sve snažnijem pritisku regulatora.

U prvoj polovici 2025. godine OpenAI je Nacionalnom centru za nestalu i zlostavljanu djecu (NCMEC) uputio 75.027 prijava povezanih sa sumnjom na iskorištavanje djece.

U istom razdoblju 2024. godine broj prijava iznosio je tek 947. Podatak, objavljen u najnovijem izvješću tvrtke, snažno je odjeknuo u javnosti i ponovno otvorio pitanje sigurnosti djece u eri naglog razvoja umjetne inteligencije.

NCMEC-ova CyberTipline predstavlja središnje mjesto u SAD-u za prikupljanje prijava o materijalima seksualnog zlostavljanja djece (CSAM) i drugim oblicima online iskorištavanja. Tehnološke kompanije zakonski su obvezne prijaviti svaki sumnjivi sadržaj, nakon čega Centar informacije prosljeđuje policiji i drugim nadležnim tijelima.

Brojke koje traže objašnjenje

Iako razlika u brojkama djeluje šokantno, stručnjaci upozoravaju da statistika zahtijeva širi kontekst. Nagli porast prijava ne mora nužno značiti isključivo eksploziju kriminalnih aktivnosti, već često odražava promjene u načinu moderiranja sadržaja i radu automatiziranih sustava detekcije.

U prvoj polovici 2025. godine prijave OpenAI-a odnosile su se na 74.559 pojedinačnih komada sadržaja, dok su 2024. godine 947 prijava obuhvaćale ukupno 3.252 datoteke.

Isti sadržaj može biti prijavljen više puta, a jedna prijava može uključivati više datoteka – podatak koji OpenAI, za razliku od nekih drugih platformi, transparentno objavljuje kako bi se izbjegla pogrešna tumačenja.

Rast korisnika i nove tehnologije

Prema riječima Gaby Raila, glasnogovornice OpenAI-a, tvrtka je krajem 2024. znatno proširila kapacitete za pregled i obradu prijava kako bi odgovorila na nagli rast broja korisnika. Nick Turley, potpredsjednik zadužen za ChatGPT, naveo je da aplikacija danas bilježi četverostruko više tjednih aktivnih korisnika nego godinu ranije.

Uz rast baze korisnika, ključnu ulogu imaju i nove funkcionalnosti. Uvođenje mogućnosti učitavanja slika te napredno generiranje vizualnog sadržaja, iako korisno za legitimne svrhe, otvorilo je dodatne mogućnosti za zlouporabu. Istodobno, sustavi za prepoznavanje nedopuštenog sadržaja postali su precizniji, što automatski rezultira većim brojem prijava.

Ovakav trend nije izoliran. Prema podacima NCMEC-a, prijave povezane s generativnom umjetnom inteligencijom porasle su između 2023. i 2024. godine za čak 1.325 posto, što ukazuje na sustavni izazov s kojim se suočava cijela industrija.

Regulatorni pritisak i mjere zaštite

Izvješće OpenAI-a dolazi u trenutku pojačanog nadzora tehnoloških tvrtki. Google, Meta i OpenAI nalaze se pod sve većim pritiskom regulatora i državnih odvjetnika, koji upozoravaju na rizike tzv. “predatorskih proizvoda umjetne inteligencije”. U nekim slučajevima, kompanije se suočavaju i s tužbama obitelji koje tvrde da su digitalni alati negativno utjecali na sigurnost i mentalno zdravlje njihove djece.

Kao odgovor, OpenAI je posljednjih mjeseci uveo niz sigurnosnih mjera. Među njima su mogućnosti roditeljskog nadzora, povezivanje roditeljskih i dječjih računa te ograničavanje pojedinih funkcija poput glasovnog načina rada. Tvrtka je objavila i tzv. Teen Safety Blueprint, strateški dokument kojim se obvezuje na kontinuirano unaprjeđenje sustava za otkrivanje i sprječavanje zlostavljanja.

Posebno osjetljivo područje predstavlja intervencija u stvarnom vremenu. Prema navodima tvrtke, razvijeni su mehanizmi koji u slučaju prepoznavanja neposredne opasnosti – poput prijetnji samoozljeđivanjem – mogu obavijestiti roditelje ili čak nadležne službe.

Između tehnologije i odgovornosti

Eksplozivan rast umjetne inteligencije donio je nove alate, ali i nova etička i sigurnosna pitanja.

Dramatičan porast prijava prema NCMEC-u pokazuje da problem nije jednostavan: on je istodobno znak povećanih rizika, ali i dokaz da sustavi nadzora postaju učinkovitiji. Kako će industrija, regulatori i društvo u cjelini odgovoriti na ovaj izazov, jedno je od ključnih pitanja digitalnog doba.