Die Justiz in Frankreich verfolgt gegenwärtig einen „konstruktiven Ansatz“ zur Überprüfung der Einhaltung nationaler Gesetze durch die Plattform X, die Elon Musks Firma xAI gehört. Im Mittelpunkt der Ermittlungen steht der KI-Chatbot Grok, der Bilder von realen Personen generiert und verbreitet. Diese Funktion wurde Anfang Jänner 2023 eingeführt und hat seitdem Kontroversen ausgelöst.

Laut einem Bericht der britischen NGO CCDH erstellten Nutzer des Chatbots mindestens 23.000 Bilder von Kindern, was potenziell schwerwiegende rechtliche Konsequenzen nach sich ziehen könnte. Die Vorwürfe gegen die Plattform umfassen Beihilfe zum Besitz von bildlichen Missbrauchsdarstellungen, Verletzung des Rechts am eigenen Bild, Leugnung von Verbrechen gegen die Menschlichkeit sowie Datendiebstahl. Erste Meldungen gingen bereits am 12. Jänner 2023 bei der französischen Staatsanwaltschaft ein, woraufhin die Ermittlungen ausgeweitet wurden.

EU-Kommission schaltet sich ein

Zusätzlich leitet die EU-Kommission eine Untersuchung gegen X ein. Diese Untersuchung fokussiert sich auf die Praktiken des Chatbots Grok, der sexualisierte KI-Bilder generiert. Die EU-Kommission hat bereits festgestellt, dass Grok in der Lage ist, Fotos so zu verändern, dass Personen knapp bekleidet oder nackt dargestellt werden. Solche Praktiken wurden als ernsthafte Risiken für die Bürger der EU identifiziert und stehen im Widerspruch zu den europäischen Digitalgesetzen, insbesondere dem Digital Services Act (DSA).

Die Kommission prüft, ob X angemessene Vorkehrungen getroffen hat, um Minderjährige zu schützen und gegen die Verbreitung illegaler Inhalte vorzugehen. Es ist zu erwarten, dass die laufende Untersuchung möglicherweise zu weiteren Geldstrafen führen könnte, nach der bereits im Dezember verhängten Strafe von 120 Millionen Euro gegen X.

Risiken für Kinder und Jugendliche

Das gefundene Problem zeigt sich auch im Kontext eines kürzlich veröffentlichten Jahresberichts von jugendschutz.net, das ein steigendes Gefährdungspotenzial für Kinder und Jugendliche im Internet durch Künstliche Intelligenz feststellt. Die Berichte verweisen auf ein wachsendes Risiko durch generative KI, die es erleichtert, zwischen Realität und Fälschung zu unterscheiden.

Die Anzahl der Fälle von sexualisierter Gewalt, Mobbing und Extremismus im Internet hat zugenommen. Diese gefährlichen Trends erhöhen die Dringlichkeit von Maßnahmen zur Regulierung von Plattformen wie X. Die Bundesjugendministerin Lisa Paus hat darauf hingewiesen, dass Kinder das Recht auf eine sichere digitale Teilhabe haben. Dabei betont sie die Notwendigkeit von wirksamen Altersprüfungen und Sicherheitsvorkehrungen, wie im Digital Services Act gefordert.

Im Jahr 2023 wurden allein von jugendschutz.net insgesamt 7645 Verstöße bearbeitet, wobei zwei Drittel davon sexualisierte Gewalt betrafen. Die Platzierung von wiederholte Verstöße gegen die Kinder- und Jugendpornografie hat eine große Bedeutung und stellt eine Herausforderung für die entsprechenden Anbieter dar.

Das Zusammenspiel der Ermittlungen gegen X, den Chatbot Grok, und die wachsenden Risiken für Minderjährige im Internet verdeutlicht die Notwendigkeit eines rigorosen Handlungsansatzes in der digitalen Welt. Die Verantwortlichen müssen dringend aktiv werden, um entsprechende Sicherheitsmechanismen zu installieren und zu gewährleisten, dass solche Technologien nicht zum Nachteil von Schwächeren verwendet werden.