Stručnjaci upozoravaju roditelje: 'Dovoljno je 20 fotografija djeteta da AI napravi lažni seksualni sadržaj'

Fotografija djeteta na plaži, u vrtiću ili na rođendanu donedavno je značila samo lijepu uspomenu koju roditelji žele podijeliti s obitelji i prijateljima.

Danas ta ista fotografija, jednom kad završi na internetu, može postati sirovina za nešto mnogo mračnije. Razvoj umjetne inteligencije otvorio je zabrinjavajuće jednostavan način zloupotrebe dječjih fotografija – stvaranje lažnog seksualnog sadržaja, a stručnjaci upozoravaju da tehnologija danas napreduje brže od sustava zaštite, edukacije i zakona koji bi je trebali sustizati.

Alarm je prva glasno pokrenula britanska Nacionalna agencija za borbu protiv kriminala (NCA), nakon što su otkriveni slučajevi u kojima su kriminalne skupine javno dostupne dječje fotografije koristile za izradu UI-generiranog materijala i potom za ucjenu obitelji.

Poruka agencije nije bila poziv na prestanak dijeljenja obiteljskih trenutaka, nego osvještavanje novih načina na koje se takve fotografije mogu iskoristiti.

Uznemirujuća statistika

Posebna evidencija UI generiranog materijala povezanog sa seksualnim iskorištavanjem djece u Hrvatskoj za sada ne postoji, no Centar za sigurniji internet upozorava da bi bilo naivno vjerovati da nas globalni trendovi zaobilaze, jer hrvatska djeca koriste iste platforme i izložena su istim alatima kao djeca svuda u svijetu.

Ni na globalnoj razini djelovanje u ovom pogledu nije otišlo mnogo dalje: najveće svjetske organizacije, uključujući američki NCMEC, tek su odnedavno počele izdvajati umjetnu inteligenciju kao zasebnu kategoriju u evidencijama.

No, kod nas je nedavno ipak formaliziran model suradnje Centra s Ministarstvom unutarnjih poslova, čime su prijave zaprimljene kroz njihove kanale dobile jasan put prema nadležnim institucijama – okvir koji bi ubuduće trebao omogućiti sustavnije praćenje ovih trendova i kod nas.

Razmjeri problema jasno se vide u međunarodnim statistikama. Američki sustav CyberTipline, jedan od najvećih svjetskih mehanizama za prijavu seksualnog iskorištavanja djece na internetu, tijekom 2025. godine zaprimio je više od 182.000 prijava u kojima su počinitelji posjedovali, generirali ili pokušavali generirati UI materijal seksualnog zlostavljanja djece.

Poseban problem predstavlja to što umjetna inteligencija omogućuje preradu već postojećih snimki zlostavljanja u nove sadržaje, čime se žrtve doslovno ponovno viktimiziraju.

Britanska organizacija Internet Watch Foundation u istoj je godini kao realistične prikaze zlostavljanja procijenila više od 8.000 UI generiranih fotografija i videozapisa, pri čemu je broj samih videozapisa skočio gotovo eksponencijalno, s 13 zabilježenih slučajeva u 2024. na više od 3.400 u 2025. godini.

U tom sadržaju žrtve su gotovo isključivo djevojčice, čak 97 posto slučajeva prema dostupnim analizama. Ono što tu statistiku čini posebno uznemirujućom jest koliko je nizak tehnološki prag za takvu zloupotrebu postao.

– Realističan lažni prikaz konkretnog djeteta danas je moguće izraditi iz svega dvadesetak javno dostupnih fotografija, u petnaestak minuta i bez tehničkog predznanja.

Najčešća sirovina za takav materijal upravo su fotografije s društvenih mreža, upozorili su iz Centra za sigurniji internet. Iako su roditelji danas svjesniji opasnosti objavljivanja fotografija djece na internetu, to se ne odražava uvijek i u njihovom ponašanju.

– Roditelji danas uglavnom znaju da fotografije djece ne treba dijeliti javno, no u praksi i dalje vidimo iste obrasce, kazali su u Centru.

(Ne)odgovoran kompromis

Poseban problem, dodaju, predstavlja takozvani ‘sharenting’, dijeljenje fotografija i detalja iz djetetova života na društvenim mrežama, čime dijete dobiva digitalni identitet i prije nego što samo može odlučiti želi li ga uopće imati.

Jednom objavljen sadržaj može ostati dostupan godinama, a naizgled bezazlene fotografije s plaže, sportskih aktivnosti ili obiteljskih okupljanja mogu završiti u potpuno drugačijem kontekstu od onoga u kojem su nastale.

Dodatni rizik predstavljaju objave koje otkrivaju gdje dijete živi, ide u školu ili provodi slobodno vrijeme, jer takve informacije mogu olakšati njegovu identifikaciju i praćenje.

Roditeljima se često čini da je zamućivanje djetetova lica prije objave odgovoran kompromis, no to nije stvarna zaštita.

– Postoje alati koji takvu zaštitu mogu zaobići i rekonstruirati lice, a ostatak fotografije i dalje može sadržavati dovoljno informacija za zloupotrebu, naglasili su iz Centra.

Iz istog razloga fotografije djece u kupaćim kostimima ili donjem rublju ne bi se, poručuju, trebale objavljivati uopće – poruka koju Centar godinama ponavlja kroz kampanju »Najbolji dječji kupaći je onaj koji se nosi«, a koju je ove godine podržao i Ured pravobranitelja za djecu.

Najveći dio zaštite događa se prije nego što fotografija uopće završi na internetu. Profile treba postaviti na privatno, redovito provjeravati popis kontakata, isključiti oznake lokacije te s obitelji unaprijed dogovoriti da se fotografije djece ne objavljuju bez roditeljskog pristanka.

Ako do zloupotrebe ipak dođe, ključna je brza reakcija, poručuju iz Centra. Najvažnije je sačuvati dokaze u obliku snimki zaslona s vidljivim poveznicama, korisničkim imenima i datumima. Sam sadržaj ne treba preuzimati niti dalje prosljeđivati.

Materijal treba prijaviti policiji, jer je riječ o kaznenom djelu koje obuhvaća i realistične prikaze izrađene umjetnom inteligencijom, te platformi na kojoj je objavljen, uz zahtjev za uklanjanje.

– Mi podršku pružamo kroz anonimnu hotline liniju i Helpline za savjetovanje, dok maloljetnicima na raspolaganju stoji besplatni servis Take It Down, koji pomaže ukloniti intimne snimke bez potrebe slanja same fotografije.

Dijete čija je fotografija zloupotrijebljena je žrtva. Osjećaj srama jedan je od najčešćih razloga zbog kojih djeca ovakve situacije skrivaju od odraslih, naglasili su iz Centra.

Duboke traume

Upravo taj osjećaj srama, ali i puno dublje posljedice, u Poliklinici za zaštitu djece i mladih Grada Zagreba prepoznaju kao jedan od najtežih aspekata ovakvih slučajeva. Iskustvo zloupotrebe fotografije za dijete može biti izrazito traumatično, čak i kad samo zna da prikazani sadržaj nije stvaran.

– Dijete može ovu situaciju doživjeti kao gubitak kontrole nad vlastitim identitetom jer nema nikakav utjecaj na nastali sadržaj, reakcije okoline ni mogućnost da se on ponovno pojavi u digitalnom svijetu, istaknuli su stručnjaci Poliklinike.

Posljedice ovise o dobi djeteta, njegovim osobinama te, presudno, o tome kako reagiraju odrasli. Mogu se javiti osjećaj srama, tjeskoba, problemi sa spavanjem i koncentracijom, povlačenje iz društva, izbjegavanje digitalnih platformi, a u težim slučajevima i samoozljeđujuća ponašanja.

Roditeljima se savjetuje da prate promjene u ponašanju koje ranije nisu bile uobičajene, jer neće sva djeca sama progovoriti o onome što im se dogodilo – neka će problem svjesno skrivati, upravo zbog srama ili straha od osude.

– Roditelji ne bi trebali procjenjivati ozbiljnost situacije samo prema tome govori li dijete o problemu. Važno je biti osjetljiv na promjene u djetetovu ponašanju, što je uostalom temelj kvalitetnog odnosa roditelja i djeteta, poručili su iz Poliklinike.

Kad roditelj sazna za zloupotrebu, ključan je smiren pristup, podrška umjesto osude te izbjegavanje okrivljavanja ili impulzivnih reakcija koje bi mogle dodatno pojačati osjećaj srama.

Cilj je očuvati odnos povjerenja kako bi se dijete i ubuduće znalo obratiti roditelju. Ako je emocionalna uznemirenost izraženija, preporučuje se potražiti i stručnu psihološku pomoć.

Problem nije samo u pojedinačnim slučajevima, nego i u širem zaostajanju institucija za tehnologijom. Ured pravobranitelja za djecu upozorava da primjena umjetne inteligencije utječe na ostvarivanje gotovo svih dječjih prava, a poseban problem predstavlja nedovoljna osvješćenost o trajnosti digitalnog traga – jednom objavljeni sadržaji mogu biti zloupotrijebljeni čak i kad ih dijele osobe od povjerenja.

Koliko je taj jaz stvaran, pokazuje istraživanje Kids Online Hrvatska iz 2025.: čak 46,1 posto roditelja nikada s djecom ne razgovara o pogreškama koje ona rade na internetu, 41,8 posto nikada ne razgovara o tome što uopće rade online, a 51,3 posto nikada ne postavlja pravila o tome kada djeca smiju koristiti internet.

– Roditelji vrlo često, u najboljoj namjeri, objavljuju fotografije djece ne imajući pritom u dovoljnoj mjeri u vidu moguće rizike, upozorili su iz Ureda.

Kaskanje za tehnologijom

Da je riječ o rastućem problemu, potvrđuju i podaci Ministarstva unutarnjih poslova. Broj online kaznenih djela na štetu djece u zabrinjavajućem je porastu posljednjih dvanaest godina.

Najizraženiji rast bilježi iskorištavanje djece za pornografiju, kazneno djelo koje obuhvaća i materijale koji prikazuju nepostojeće dijete u simuliranom spolno eksplicitnom sadržaju: s 61 slučaja u 2013. na 452 u 2025., uz rekordnih 460 slučajeva 2023. godine.

– U manjem broju evidentirani su slučajevi koji prikazuju snimke djece u spolno eksplicitnom ponašanju kreirane uz pomoć umjetne inteligencije, rekli su nam iz MUP-a.

U istom razdoblju broj slučajeva upoznavanja djece s pornografijom porastao je gotovo šesterostruko, s 24 na 154, dok su povrede privatnosti narasle na 92 slučaja godišnje. Mamljenje djece radi spolnog iskorištavanja, za razliku od toga, oscilira iz godine u godinu bez jasnog trenda.

Iz MUP-a napominju da porast evidentiranih djela dijelom odražava i intenzivniji rad policije na identifikaciji žrtava i počinitelja.

I oni upozoravaju na to da objavljena fotografija može ostati trajno dostupna i nakon brisanja te da djeca, za razliku od potencijalnih zlostavljača, uglavnom online daju istinite podatke o sebi, što ih dodatno izlaže riziku.

Problem pogoršava i sve češća izrada vlastitih eksplicitnih sadržaja i njihovo nekritičko dijeljenje među vršnjacima, pri čemu djeca često nisu svjesna da mogu počiniti kazneno djelo ili same postati žrtve.

Takve slučajeve istražuju posebno educirani policijski službenici za kibernetičku sigurnost, u suradnji s kolegama za mladež i policijama drugih zemalja, jer, kako ističu iz MUP-a, digitalni svijet ne poznaje granice.

Na razini Europske unije u tijeku je revizija Direktive o suzbijanju seksualnog zlostavljanja djece, koja bi umjetno generirani materijal trebala izjednačiti sa stvarnim sadržajem. Hrvatski Kazneni zakon izmjenama iz studenoga 2025. dodatno je pooštrio kažnjavanje takvih djela.

– Nijedan sustav u Europi danas ne može reći da je potpuno spreman, jer se tehnologija razvija brže od kurikuluma, protokola i zakonodavstva. Zakon djeluje tek kada je šteta nastala. Prevencija mora početi prije nego što problem nastane, upozorili su iz Centra za sigurniji internet, koji nastavlja s edukacijama u školama diljem zemlje.

Najbolja zaštita djece nije zabrana tehnologije, nego kombinacija informiranosti, otvorene komunikacije, odgovornog ponašanja odraslih i pravovremene podrške kad se problem ipak pojavi.

Umjetna inteligencija mijenja način na koji nastaju digitalni sadržaji, ali ne mijenja temeljnu potrebu svakog djeteta da se osjeća sigurno i zaštićeno – a to je odgovornost koju tehnologija, koliko god napredna bila, ne može preuzeti umjesto roditelja.

Preporuke pravobranitelja

Uz zlouporabu fotografija, Ured pravobranitelja za djecu bilježi i porast pritužbi vezanih uz povredu djetetove privatnosti te sve izraženije vršnjačko nasilje na internetu: uvrede, širenje neistina, objavljivanje privatnih podataka, kao i ozbiljnije oblike poput snimanja vršnjaka bez pristanka i ucjena povezanih s prijetnjom objave takvih snimki.

Među ključnim preporukama Ureda ističu se sustavna edukacija djece i roditelja, uvođenje kurikuluma digitalne pismenosti u nastavu, donošenje Nacionalnog programa za djecu i mlade u digitalnom okruženju te razvoj savjetovališta za roditelje.