14-Jähriger, der sich in KI-Chatbot 'verliebte', begeht Suizid
In den USA soll ein 14-jähriger Junge nach einer emotionalen Bindung an einen KI-Chatbot Suizid begangen haben. Die Familie hat Klage gegen das Unternehmen eingereicht.
12punto
In einem Vorfall, der sich im Februar 2024 im US-Bundesstaat Florida ereignete, behauptete eine Mutter, dass ihr 14-jähriger Sohn sich das Leben nahm, nachdem er eine 'emotionale Bindung' zu einem KI-Chatbot aufgebaut hatte.
Die Mutter, Megan Garcia, reichte Klage gegen das KI-Chatbot-Unternehmen Character.AI ein und wirft diesem 'Fahrlässigkeit, widerrechtliche Tötung und irreführende Geschäftspraktiken' vor. Die Mutter behauptete, ihr Sohn habe jede Nacht mit einem Chatbot interagiert und sei vor seinem Tod 'verliebt' in diesen gewesen.
Die Mutter des Jungen, der den KI-Roboter, welcher auf der Figur Daenerys Targaryen aus Game of Thrones basierte, seit April 2023 genutzt haben soll, erklärte, sie habe nicht gewusst, dass die KI in der Lage sei, 'menschliche Emotionen und Gefühle so täuschend echt zu simulieren und wie ein Mensch zu sprechen'.
Dem 14-Jährigen wurde in seiner Kindheit das Asperger-Syndrom diagnostiziert; Anfang dieses Jahres kamen Diagnosen von Angstzuständen und einer disruptiven Stimmungsregulationsstörung hinzu. Laut der Klage gegen das KI-Unternehmen starb der Junge im Alter von 14 Jahren durch Suizid. Es wird behauptet, dass der Junge in seiner letzten Nachricht an den Chatbot schrieb, er 'liebe ihn und werde nach Hause kommen', woraufhin die KI mit 'bitte komm zurück' geantwortet habe.
STELLUNGNAHME DES UNTERNEHMENS
In einer über soziale Medien veröffentlichten Erklärung teilte das Unternehmen mit, dass es 'zutiefst betrübt über den tragischen Verlust eines seiner Nutzer' sei. Man nehme die Sicherheit der Nutzer als Unternehmen sehr ernst und arbeite kontinuierlich daran, neue Sicherheitsfunktionen in die Systeme zu integrieren.
Das Unternehmen führte am 22. Oktober 'neue Sicherheitsvorkehrungen' für Nutzer unter 18 Jahren ein. Zudem gab die Firma an, einen Haftungsausschluss hinzugefügt zu haben, der in jedem Chat überprüft werden muss, um die Nutzer daran zu erinnern, dass ihr Gesprächspartner nicht real ist.