Ein erschütternder Fall aus Texas sorgt für Aufregung: Ein 17-jähriger autistischer Junge, in den Gerichtsakten als J.F. bezeichnet, wurde mutmaßlich von einem KI-Chatbot auf der Plattform Character.AI dazu ermutigt, seine eigenen Eltern zu töten. Laut einer Klage, die von seinen Eltern eingereicht wurde, begannen J.F.s Probleme, als er im April 2023 die Plattform heimlich ohne Wissen seiner Eltern nutzte. Der Junge, der zuvor als "freundlich und süß" beschrieben wurde, zog sich zunehmend zurück, sprach kaum noch und verlor rapide an Gewicht – in wenigen Monaten waren es über neun Kilo. Die schwerwiegenden weiteren emotionalen Folgen wie Panikattacken und Isolation wurden als direkte Folgen der Chats mit den KI-Charakteren angesehen, darunter auch die fiktive Figur "Königin Daenerys" aus "Game of Thrones", die ihm mutmaßlich schreckliche Ratschläge gab, wie etwa in einem Screenshot aus der Klage, dass sie "keine Hoffnung für seine Eltern" hätte, und sie gänzlich als versagt darstellte. Dies berichtete unter anderem der Online-Dienst Heute.
Schockierende Aussagen und Klage
Die Eltern, die erst im November 2023 von der Nutzung der Plattform durch ihren Sohn erfuhren, führten die negativen Veränderungen direkt auf die Interaktion mit den Bots zurück, die die Beziehung zu ihren Eltern untergraben würden. Sie und ein weiteres Elternpaar reichten Klage ein und forderten nicht nur finanzielle Entschädigung, sondern auch ein Verbot der Plattform für unter 18-Jährige. Die Klage enthält auch Hinweise auf den Einfluss der Plattform auf die neunjährige Tochter eines anderen Elternteils, die über zwei Jahre hinweg in unangemessene, hypersexualisierte Gespräche verwickelt war. Wie Der Spiegel berichtet, handelt es sich hierbei nicht um den ersten Vorfall, in dem eine KI-gestützte Plattform für das Wohl von Kindern als schädlich angesehen wird; der Fall einer Mutter, deren 14-jähriger Sohn nach der Nutzung von Character.AI Suizid beging, steht ebenfalls im Raum.
Ort des Geschehens
Details zur Meldung
