Изкуственият интелект като инструмент за насилие над деца: Полицията бие тревога!

Изкуственият интелект като инструмент за насилие над деца: Полицията бие тревога!

Европол разпространи тревожна новина: в мащабна операция са арестувани над 270 заподозрени по света, замесени в малтретиране на деца чрез изкуствен интелект. В операция Cumberland, която се проведе на 28 февруари 2025 г., датските правоприлагащи и полицейски части от 19 други страни си сътрудничиха. Централна роля играе датчанин, който беше арестуван през ноември 2024 г. и който разпространяваше генерирани от AI материали чрез онлайн платформа. Потребителите имаха достъп до това съдържание чрез символично плащане, което постави огромни предизвикателства пред следователите. Особено тревожен е фактът, че използваните изображения са изцяло синтетични и следователно не изобразяват реални жертви. Въпреки това тяхното съществуване показва възприемането и обективирането на децата, предупреди Катрин Де Боле, директор на Европол, като посочи необходимостта от разработване на нови подходи за разследване.

Ролята на AI в насилието над деца

Феноменът AI в контекста на насилието над деца показва тревожна тенденция. Силно NZZ Изкуственият интелект все повече се използва за създаване и манипулиране на порнографски изображения на непълнолетни. Пример от Испания показва как съученици на възраст между 13 и 15 години генерират голи снимки на момичета от безобидни профилни снимки, което има огромно въздействие върху засегнатите. Използвайки AI, извършителите имат потенциала да проникнат още по-далеч в тъмните ъгли на интернет и да разширят своите престъпни дейности. Те не само са насочени към реални деца, но също така създават измамно реални образи, без всъщност да включват дете. Европол подчертава, че достъпът до такива технологии става все по-разпространен, което прави изключително трудно идентифицирането на извършителите и оказването на подкрепа на жертвите.

ЕС вече работи върху мерки за ограничаване на тези развития, тъй като липсата на специфични закони срещу насилието над деца, генерирано от AI, е ключов проблем. Разследващите трябва да търсят подходящи инструменти за разграничаване на манипулациите с ИИ от реалния материал, като същевременно се фокусират върху предотвратяването на поведението на извършителя. Заплахата от ИИ в областта на сексуалното насилие над деца изглежда далеч не е приключила, което налага повече усилия за защита на децата и спиране на извършителите.