Alarmantno upozorenje: Najmanje 1,2 miliona djece iskorišteno za AI-generisani seksualni sadržaj

Umjetna inteligencija mijenja način na koji kriminalci proizvode, distribuiraju i unovčavaju seksualizirani sadržaj djece, upozoravaju iz Globalne inicijative protiv transnacionalnog organiziranog kriminala (GI-TOC).

Ističu da najveći izazov nije samo razvoj novih tehnologija, već činjenica da kriminalna upotreba AI alata napreduje mnogo brže od zakona, institucija i kapaciteta za istrage.

Prema riječima Anese Agović Đozo, više analitičarke Globalne inicijative protiv transnacionalnog organizovanog kriminala i jedne od autorica izvještaja “Abuse at scale: Artificial intelligence is reshaping child sexual exploitation”, generativna umjetna inteligencija značajno je smanjila tehničke i finansijske prepreke za stvaranje uvjerljivih seksualiziranih prikaza djece.

"Fotografije preuzete sa društvenih mreža danas se mogu brzo izmijeniti, seksualizirati ili uključiti u potpuno sintetički sadržaj bez znanja djeteta", kaže Agović Đozo.

Dodaje da su postojeći zakoni i alati za otkrivanje uglavnom razvijeni u periodu kada je fokus bio na fotografskom materijalu stvarnog zlostavljanja, dok se danas suočavamo s masovnom proizvodnjom sintetičkog i manipulisanog sadržaja.

Izvještaji međunarodnih organizacija upozoravaju da je količina AI-generisanog materijala seksualnog zlostavljanja djece (CSAM) u posljednjih nekoliko godina naglo porasla. Procjenjuje se da je najmanje 1,2 miliona djece imalo svoj lik iskorišten za stvaranje takvog sadržaja.

Prema analizi GI-TOC-a, sintetički CSAM ne mora zamijeniti materijal stvarnog zlostavljanja, već može proširiti tržište, povećati potražnju, normalizirati seksualizaciju djece i olakšati prelazak počinilaca prema težim oblicima nasilja.

Livia Wagner, šefica kabineta i tematska voditeljica za trgovinu ljudima u GI-TOC-u i jedna od autorica izvještaja, objašnjava da je online seksualna eksploatacija djece ranije često bila povezana sa zatvorenim zajednicama u kojima su ključnu ulogu imali pojedinci sa određenim tehničkim znanjima. Međutim, posljednjih godina primjetan je trend industrijalizacije kriminalnih aktivnosti u različitim oblastima cyber kriminala.

“Umjetna inteligencija dio je tog procesa jer omogućava stvaranje ekosistema u kojem različiti akteri mogu biti specijalizirani za različite funkcije unutar kriminalnog lanca”, kaže Wagner. Ta specijalizacija može uključivati kreiranje sadržaja, distribuciju, finansijske usluge, odabir žrtava, vrbovanje djece, administraciju platformi i druge aktivnosti.

"To čini kriminalne mreže otpornijima, jer različiti učesnici preuzimaju različite uloge, a pojedinci postaju međusobno zamjenjivi", ističe Wagner.

Agović Đozo dodaje da zloupotrebu AI alata i dalje mogu činiti pojedinci ili manje zatvorene online zajednice, jer generativni alati omogućavaju proizvodnju sadržaja bez naprednog tehničkog znanja.

Istovremeno se, kaže, primjećuje profesionalizacija i komercijalizacija ovog kriminalnog tržišta.

"Ne bih rekla da organizovane kriminalne grupe potpuno preuzimaju ovu oblast od pojedinaca. Prije se radi o nastanku slojevitog tržišta u kojem individualni počinioci, tehnički posrednici, administratori platformi, pružaoci AI alata, distributeri i finansijski posrednici mogu djelovati kao dio iste kriminalne ekonomije, čak i kada se međusobno ne poznaju", kaže Agović Đozo.

Promjena se ogleda u prelasku prema modelima crime-as-a-service, gdje kriminalci više ne moraju sami razvijati tehnologiju ili posjedovati posebne vještine. Mogu koristiti gotove AI modele, chatbot servise, aplikacije za manipulaciju fotografijama, pretplatničke platforme i infrastrukturu za distribuciju i naplatu.

Prema izvještaju, umjetna inteligencija danas se koristi kroz različite faze seksualne eksploatacije djece, od stvaranja lažnih identiteta i automatizovanog vrbovanja žrtava do proizvodnje i distribucije sadržaja.

Međunarodne policijske operacije pokazale su razmjere problema. Operacija “Cumberland”, koju su tokom 2025. predvodile vlasti iz 19 država, razotkrila je jednu od prvih transnacionalnih mreža za distribuciju AI-generisanog CSAM sadržaja, pri čemu je identifikovano gotovo 300 korisnika širom svijeta. Operacija “Torch” u julu 2026. rezultirala je hapšenjima u više evropskih država.

Detektor je ranije pisao o prvom hapšenju u Banjoj Luci zbog dječije pornografije koju je generisala umjetna inteligencija.

Nastavak teksta čitajte na linku OVDJE.