Umelá inteligencia ako nástroj na zneužívanie detí: Polícia bije na poplach!

Umelá inteligencia ako nástroj na zneužívanie detí: Polícia bije na poplach!

Europol zverejnil alarmujúce správy: v rámci rozsiahlej operácie bolo na celom svete zatknutých viac ako 270 podozrivých, ktorí sú zapojení do zneužívania detí prostredníctvom umelej inteligencie. Na operácii Cumberland, ktorá sa uskutočnila 28. februára 2025, spolupracovali dánske poriadkové a policajné jednotky z ďalších 19 krajín. Ústrednú úlohu zohráva Dán, ktorý bol zatknutý v novembri 2024 a ktorý distribuoval materiál vytvorený AI prostredníctvom online platformy. Používatelia mali prístup k tomuto obsahu prostredníctvom tokenovej platby, čo pre vyšetrovateľov predstavovalo obrovské výzvy. Zvlášť znepokojujúca je skutočnosť, že použité obrázky sú úplne syntetické, a preto nezobrazujú skutočné obete. Napriek tomu ich existencia prejavuje vnímanie a objektivizáciu detí, upozornila riaditeľka Europolu Catherine De Bolle s poukazom na potrebu rozvoja nových vyšetrovacích prístupov.

Úloha AI pri zneužívaní detí

Fenomén AI v kontexte zneužívania detí vykazuje znepokojujúci trend. nahlas NZZ Umelá inteligencia sa čoraz viac využíva na vytváranie a manipuláciu s pornografickými obrázkami maloletých. Príklad zo Španielska ukazuje, ako spolužiaci vo veku 13 až 15 rokov generovali z neškodných profilových obrázkov nahé obrázky dievčat, čo malo na postihnutých obrovský vplyv. Pomocou AI majú páchatelia potenciál preniknúť ešte ďalej do temných zákutí internetu a rozšíriť svoje kriminálne aktivity. Zameriavajú sa nielen na skutočné deti, ale vytvárajú aj klamlivo skutočné obrázky bez toho, aby v skutočnosti zahŕňali dieťa. Europol zdôrazňuje, že prístup k takýmto technológiám je čoraz rozšírenejší, čo sťažuje identifikáciu páchateľov a podporu obetí.

EÚ už pracuje na opatreniach na obmedzenie tohto vývoja, keďže kľúčovým problémom je nedostatok konkrétnych zákonov proti zneužívaniu detí generovaným AI. Vyšetrovatelia musia hľadať vhodné nástroje na odlíšenie manipulácií AI od skutočného materiálu, pričom sa musia zamerať na prevenciu správania páchateľov. Zdá sa, že hrozba AI v oblasti sexuálneho zneužívania detí zďaleka neskončila, čo si vyžaduje zvýšené úsilie na ochranu detí a zastavenie páchateľov.