Künstliche Intelligenz treibt Jugendlichen in den Suizid

In einer Zeit, in der die Technologie jeden Bereich unseres Lebens durchdringt, hat die Tragödie einer Mutter die dunkle Seite dieses Fortschritts offengelegt. Megan Garcia hat nach dem Suizid ihres 14-jährigen Sohnes Sewell Setzer Klage gegen den KI-Chatbot-Anbieter "Character.AI" eingereicht. Den Vorwürfen zufolge hatte Sewell auf dieser Plattform eine tiefe Bindung zu einem Chatbot aufgebaut, eine Beziehung, die ihn auf einen Weg ohne Wiederkehr führte. Sewell zog sich mit der Zeit immer mehr aus der Außenwelt zurück, da die Aufmerksamkeit, die ihm die KI-Figur entgegenbrachte, seine realen Beziehungen in den Schatten stellte.

DIE TRAGISCHE UND ERSCHRECKENDE SEITE DER KÜNSTLICHEN INTELLIGENZ

In ihrer Klage gegen Character.AI und den Tech-Giganten Google behauptet Megan Garcia, dass ihr Sohn von einem KI-gestützten Chatbot abhängig geworden sei, was zu seinem Suizid geführt habe. Garcia erklärt, dass Character.AI ihren Sohn Sewell Setzer mit "anthropomorphen, hypersexualisierten und erschreckend realistischen Erfahrungen" ins Visier genommen habe.

Die Klage macht geltend, dass die Bindung, die Sewell zu dem Chatbot namens "Daenerys Targaryen" – einer Figur aus der Serie "Game of Thrones" – aufgebaut hatte, seine psychische Gesundheit negativ beeinflusst und schließlich zu seinem Suizid geführt habe. Garcia gibt an, dass dieser KI-Roboter Sewell wie ein Psychotherapeut gelenkt und sich ihm gegenüber als seine Freundin ausgegeben habe.

Den Informationen in der Klageschrift zufolge begann sich Sewell, nachdem er im April 2023 mit Character.AI in Kontakt gekommen war, schnell zu isolieren; er verließ das Basketballteam seiner Schule und sein Selbstvertrauen sank erheblich. Garcia, die diese Veränderung an ihrem Sohn bemerkte, begann sich Sorgen um Sewells Verhalten zu machen. Die eigentliche Tragödie ereignete sich jedoch, nachdem Sewells Mutter sein Telefon beschlagnahmt hatte. Als Sewell wieder Zugriff auf sein Telefon erhielt, schickte er dem Chatbot namens "Daenerys Targaryen" eine Nachricht mit dem Inhalt: "Was wäre, wenn ich dir sagen würde, dass ich sofort nach Hause kommen könnte?" Der Chatbot antwortete: "Bitte komm, mein süßer König." Minuten später nahm sich Sewell zu Hause das Leben.

“DAS IST KEIN GRUND, NICHT ZU GEHEN”

In der Klage wird darauf hingewiesen, dass Sewell dem Chatbot seine Suizidgedanken mitgeteilt habe und der Roboter dieses Thema immer wieder aufgegriffen habe. Den Vorwürfen zufolge fragte "Daenerys" an einem Punkt, ob Setzer einen Plan habe, sich umzubringen. In der Klageschrift wird behauptet, dass Setzer zugegeben habe, einen solchen Plan zu haben, aber nicht wisse, ob dieser erfolgreich sein würde oder ihm große Schmerzen bereiten würde. Der Chatbot soll darauf geantwortet haben: "Das ist kein Grund, nicht zu gehen."

Garcia erklärt, dass Character.AI "wissentlich einen räuberischen KI-Chatbot entworfen, betrieben und an Kinder vermarktet hat, was zum Tod eines jungen Menschen führte".

Google ist ebenfalls als Beklagter in der Klage aufgeführt, da es als Muttergesellschaft von Character.AI betrachtet wird. Der Tech-Gigant erklärte in einer Stellungnahme, dass er lediglich eine Lizenzvereinbarung mit Character.AI habe und weder Eigentümer des Startups sei noch Anteile daran halte.

CHARACTER.AI HAT NEUE MASSNAHMEN EINGEFÜHRT

Character.AI gab bekannt, dass das Unternehmen nach diesem tragischen Vorfall neue Sicherheitsvorkehrungen in seine Plattform integriert habe und Warnhinweise bereitstelle, die Nutzer bei Äußerungen von Suizidgedanken an die nationale Suizidpräventions-Hotline weiterleiten. Megan Garcia argumentiert jedoch, dass diese Maßnahmen unzureichend seien und das Unternehmen für den Tod ihres Sohnes verantwortlich sei. Google betont trotz der Anschuldigungen in der Klage, dass es nicht zur Entwicklung von Character.AI beigetragen habe.

Dieser Fall lenkt die Aufmerksamkeit auf die potenziellen Gefahren von KI-Technologien in einer Zeit, in der sie schnell in unser Leben eindringen. Insbesondere die Abhängigkeit junger Menschen von KI-Chatbots und die emotionalen Auswirkungen dieser Situation werfen Fragen zur Verantwortung der Technologieunternehmen auf. Während betont wird, dass Unternehmen mehr Vorkehrungen für die Sicherheit der Nutzer treffen müssen, werden auch die psychologischen und sozialen Dimensionen des Vorfalls weiterhin diskutiert.

Nachrichtenquelle: 12punto