Umelá inteligencia ako nástroj na zneužívanie detí: Polícia je alarm!

Umelá inteligencia ako nástroj na zneužívanie detí: Polícia je alarm!

Dänemark - Europol vydal alarmujúce správy: Vo veľkej kampani bolo zatknutých viac ako 270 podozrivých na celom svete, ktorí sa podieľajú na zneužívaní detí o umelej inteligencii. Dánska agentúra činná v trestnom konaní a policajné jednotky z 19 ďalších krajín spolupracovali na operácii „Cumberland“, ktorá sa konala 28. februára 2025. Dánsky muž, ktorý bol zatknutý v novembri 2024, hrá ústrednú úlohu a distribuovaný materiál vygenerovaný AI prostredníctvom online platformy. Používatelia mali prístup k tomuto obsahu prostredníctvom symbolickej platby, ktorú vyšetrovatelia predstavovali s obrovskými výzvami. Skutočnosť, že použité obrázky sú úplne syntetické, a preto nepredstavujú obzvlášť skutočné obete. Jeho existencia však prejavuje vnímanie a objektivizáciu detí, varovala Catherine de Bolle, riaditeľku Europolu, a poukázala na potrebu rozvoja nových vyšetrovacích prístupov.

Úloha AI pri zneužívaní detí

Fenomén AI v kontexte zneužívania detí vykazuje znepokojujúcu tendenciu. Podľa nzz sa čoraz viac používa umelecká inteligencia na výklenok a manipuláciu s pornografickými obrázkami pornografických mínov. Príklad zo Španielska ukazuje, ako spolužiaci vo veku od 13 do 15 rokov generovali nahé obrázky dievčat z neškodných profilových obrázkov, ktoré mali obrovské účinky na postihnutých. Použitím AI majú páchatelia potenciál preniknúť ešte ďalej do tmavých rohov internetu a rozšíriť svoje trestné machinácie. Majú nielen klamne reálne obrázky, ale aj výrobu skutočných detí, bez toho, aby skutočne ovplyvnili dieťa. Europol zdôrazňuje, že prístup k takýmto technológiám je čoraz obľúbenejší, čo sťažuje identifikáciu páchateľov a podporu obetí.

EÚ už pracuje na opatreniach na obmedzenie tohto vývoja, pretože nedostatok konkrétnych zákonov proti AI generovanej zneužívaniu detí je ústredným problémom. Vyšetrovatelia musia hľadať vhodné nástroje na rozlíšenie manipulácií s AI od skutočného materiálu a zároveň sa zamerať na prevenciu páchateľov. Zdá sa, že hrozba AI v oblasti sexuálneho zneužívania detí neskončila, takže na ochranu detí a zastavenie páchateľov je potrebné zvýšené úsilie.