Das Europäische Parlament hat kürzlich einen entscheidenden Gesetzentwurf verabschiedet, der das Verbot von KI-generierten pornografischen Deepfakes vorsieht. Dieser Schritt ist eine Reaktion auf die zunehmenden Fälle von digitaler Gewalt und Missbrauch, die durch den Einsatz Künstlicher Intelligenz ermöglicht werden. Laut Kleine Zeitung bezieht sich dieser Gesetzentwurf auf Anwendungen, die Bilder und Videos erstellen oder verändern, um intime Körperbereiche oder sexuell eindeutige Aktivitäten einer Person ohne deren Einwilligung darzustellen.
Die Entscheidung für ein ausdrückliches Verbot solcher Praktiken ist als „dringend geboten“ zu betrachten, da diese Inhalte das Grundrecht der Betroffenen auf Würde und Privatsphäre verletzen. Der Gesetzentwurf erfolgt in einer Zeit, in der der Chatbot Grok von Elon Musk im Mittelpunkt von Ermittlungen steht, nachdem damit Millionen sexualisierter KI-Bilder von Frauen und Kindern erstellt wurden. Mehrere Länder sowie die EU-Kommission haben bereits Maßnahmen ergriffen, um Grok zu regulieren oder zu sperren.
Reaktionen und politische Herausforderungen
SPÖ-EU-Abgeordnete Elisabeth Grossmann betont, dass jetzt die Zeit gekommen sei, den digitalen Missbrauch zu beenden. Sie sieht klare, europaweit harmonisierte Regeln zum Schutz von Frauen als notwendig an. Auch die EU-Abgeordnete Lena Schilling von den Grünen weist auf die Gefahren hin, die von Nudifier-Apps ausgehen. Diese Form der digitalen Gewalt trifft vor allem Frauen und Kinder.
Zusätzlich ist ein wirksamer Schutz erst nach Juli 2026 zu erwarten, was bedeutet, dass die Zahl der Opfer virtueller Gewalt, die größtenteils Frauen und teilweise Kinder betrifft, steigen könnte. Die Organisation Aufstehn.at berichtet, dass bereits 35.000 Menschen die Petition „Missbrauch stoppen, Grok sperren!“ unterzeichnet haben, um auf das Problem aufmerksam zu machen.
Bundesweite Initiativen gegen digitale Gewalt
In Deutschland plant unterdessen Justizministerin Stefanie Hubig (SPD) ein umfassendes Gesetz zum Schutz vor „digitaler Gewalt“. Der Gesetzentwurf, der in der kommenden Woche ins Kabinett eingebracht wird, soll einen strafrechtlichen Teil umfassen, der auch einen neuen Paragrafen 184k einführt, welcher sexuelle Deepfakes unter Strafe stellt. Dieser sieht eine Freiheitsstrafe von bis zu zwei Jahren oder Geldstrafen für unbefugte Bildaufnahmen vor.
Bisher war es nur strafbar, solche Deepfakes zu verbreiten, nicht jedoch sie zu erstellen. Dies ändert sich nun, und auch voyeuristische Aufnahmen, z.B. in Saunen, fallen unter die neue Regelung. Ministerin Hubig hat mit einem weiteren Paragrafen unbefugte Überwachung mittels Tracking-Tools im Blick. Die Gesetzesinitiative ist nicht als Reaktion auf aktuelle Skandale zu verstehen, auch wenn Fälle wie der von TV-Moderatorin Collien Fernandes, deren Gesicht auf einen nackten Körper montiert wurde, weiterhin für breite Diskussionen sorgen.
Insgesamt stehen beide Initiativen – die des Europäischen Parlaments und die von Bundesjustizministerin Hubig – vor der Herausforderung, schnelle und effektive Maßnahmen gegen digitale Gewalt zu ergreifen. Angesichts der rasanten Entwicklung in der Technologie ist der gesetzgeberische Handlungsbedarf enorm.