Umjetna inteligencija kao alat za zlostavljanje djece: Policija digla uzbunu!

Umjetna inteligencija kao alat za zlostavljanje djece: Policija digla uzbunu!

Europol je objavio alarmantnu vijest: u opsežnoj operaciji diljem svijeta uhićeno je više od 270 osumnjičenika koji su umiješani u zlostavljanje djece putem umjetne inteligencije. U operaciji Cumberland, koja je održana 28. veljače 2025., surađivale su danske jedinice za provođenje zakona i policije iz 19 drugih zemalja. Središnju ulogu igra Danac koji je uhićen u studenom 2024. godine i koji je putem online platforme distribuirao materijal generiran umjetnom inteligencijom. Korisnici su ovom sadržaju mogli pristupiti putem simboličkog plaćanja, što je pred istražitelje predstavljalo goleme izazove. Posebno zabrinjava činjenica da su korištene slike potpuno sintetičke i stoga ne prikazuju stvarne žrtve. Ipak, njihovo postojanje očituje percepciju i objektivizaciju djece, upozorila je Catherine De Bolle, direktorica Europola, ukazujući na potrebu razvijanja novih istraživačkih pristupa.

Uloga umjetne inteligencije u zlostavljanju djece

Fenomen umjetne inteligencije u kontekstu zlostavljanja djece pokazuje zabrinjavajući trend. Glasno NZZ Umjetna inteligencija se sve više koristi za stvaranje i manipuliranje pornografskim slikama maloljetnika. Primjer iz Španjolske pokazuje kako su prijatelji u razredu u dobi od 13 do 15 godina generirali gole slike djevojaka iz bezopasnih profilnih slika, što je imalo golem utjecaj na pogođene. Korištenjem umjetne inteligencije počinitelji imaju potencijal prodrijeti još dublje u mračne kutove interneta i proširiti svoje kriminalne aktivnosti. Oni ne ciljaju samo na stvarnu djecu, već stvaraju i varljive stvarne slike bez stvarnog uključivanja djeteta. Europol ističe da je pristup takvim tehnologijama sve rašireniji, zbog čega je vrlo teško identificirati počinitelje i pružiti podršku žrtvama.

EU već radi na mjerama za suzbijanje ovog razvoja budući da je nedostatak posebnih zakona protiv zlostavljanja djece generiranog umjetnom inteligencijom ključni problem. Istražitelji moraju tražiti odgovarajuće alate za razlikovanje AI manipulacije od stvarnog materijala, dok se usredotočuju na sprječavanje ponašanja počinitelja. Čini se da je prijetnja umjetne inteligencije u području seksualnog zlostavljanja djece daleko od kraja, što zahtijeva pojačane napore za zaštitu djece i zaustavljanje počinitelja.