Umělá inteligence jako nástroj týrání dětí: Policie bijí na poplach!

Umělá inteligence jako nástroj týrání dětí: Policie bijí na poplach!

Europol zveřejnil znepokojivé zprávy: v rámci rozsáhlé operace bylo po celém světě zatčeno přes 270 podezřelých, kteří se podílejí na zneužívání dětí prostřednictvím umělé inteligence. Na operaci Cumberland, která se uskutečnila 28. února 2025, spolupracovaly dánské pořádkové a policejní jednotky z 19 dalších zemí. Ústřední roli hraje Dán, který byl zatčen v listopadu 2024 a distribuoval materiál vytvořený umělou inteligencí prostřednictvím online platformy. Uživatelé měli k tomuto obsahu přístup prostřednictvím tokenové platby, což pro vyšetřovatele představovalo obrovské problémy. Zvláště znepokojivá je skutečnost, že použité obrázky jsou zcela syntetické, a proto nezobrazují skutečné oběti. Přesto jejich existence projevuje vnímání a objektivizaci dětí, upozornila ředitelka Europolu Catherine De Bolleová s poukazem na nutnost vyvíjet nové vyšetřovací přístupy.

Role AI při zneužívání dětí

Fenomén AI v kontextu zneužívání dětí vykazuje znepokojivý trend. Hlasitý NZZ Umělá inteligence se stále více využívá k vytváření a manipulaci pornografických snímků nezletilých. Příklad ze Španělska ukazuje, jak spolužáci ve věku 13 až 15 let generovali z neškodných profilových obrázků nahé obrázky dívek, což mělo na postižené masivní dopad. Pomocí umělé inteligence mají pachatelé potenciál proniknout ještě dále do temných zákoutí internetu a rozšířit své kriminální aktivity. Nejen, že se zaměřují na skutečné děti, ale také vytvářejí klamně skutečné obrazy, aniž by ve skutečnosti zahrnovaly dítě. Europol zdůrazňuje, že přístup k takovým technologiím je stále rozšířenější, a proto je velmi obtížné identifikovat pachatele a podporovat oběti.

EU již pracuje na opatřeních k omezení tohoto vývoje, protože klíčovým problémem je nedostatek konkrétních zákonů proti zneužívání dětí generovaných umělou inteligencí. Vyšetřovatelé musí hledat vhodné nástroje k odlišení manipulací s umělou inteligencí od skutečného materiálu a zároveň se zaměřit na prevenci chování pachatelů. Zdá se, že hrozba AI v oblasti sexuálního zneužívání dětí zdaleka neskončila, což vyžaduje zvýšené úsilí o ochranu dětí a zastavení pachatelů.