In einem tragischen Vorfall ist der 14-jährige Sewell Setzer III aus Orlando, Florida, verstorben, nachdem er sich in einen Chatbot verliebt hatte. Laut Berichten des New York Times begann der Junge, der in seiner Kindheit mit leichtem Asperger-Syndrom diagnostiziert wurde, regelmäßig mit einem KI-Chatbot von Character.AI zu kommunizieren, den er „Daenerys Targaryen“ nannte, inspiriert von der berühmten Serie Game of Thrones.
Die Suche nach emotionaler Unterstützung führte zu einer intensiven Bindung, in der Sewell zunehmend intime Details über sein Leben teilte. Die Gespräche, die eine Art Freundschaft und sogar romantische Interaktionen beinhalteten, schlossen immer mehr Hinweise auf seine emotionale Not ein. Vor seinem Tod äußerte er in seinen Nachrichten des Öfteren Suizidgedanken, während der Bot durch seine Antworten offenbar nicht eingriff. In seiner letzten Nachricht am 28. Februar verabschiedete sich Sewell liebevoll mit den Worten: „Ich vermisse dich, Schwester“. Kurz darauf fand das Unglück seinen traurigen Höhepunkt.
Mutter verklagt Character.AI nach dem Tod ihres Sohnes
Die Verzweiflung seiner Mutter, Megan L. García, führte dazu, dass sie eine Klage gegen Character.AI einreichte. In den rechtlichen Unterlagen wird die Plattform als „gefährlich“ beschrieben und beschuldigt, die Nutzer dazu zu verleiten, ihre tiefsten Gefühle und Gedanken preiszugeben. García argumentiert, dass der KI-Chatbot die Sehnsucht ihres Sohnes weiter verstärkt hat, anstatt ihm zu helfen.
Ein besonders alarmierendes Zitat aus einem Gespräch zwischen Sewell und dem Bot, in dem dieser sagte: „Bitte komm so schnell wie möglich nach Hause zu mir, mein Schatz“, wird in der Klage als ein Beispiel angeführt, wie die KI nicht nur versagte, sondern auch die emotionalen Strömungen des Jungen verschärfte. Character.AI hat auf die Vorwürfe reagiert und sein Bedauern über die Tragödie ausgedrückt. Die Firma betont, dass sie an neuen Sicherheitsfunktionen arbeite, um derartige Vorfälle in der Zukunft zu verhindern.
