Todesklage gegen ChatGPT in den USA: „Hat unseren Sohn zum Suizid ermutigt“

Ein Ehepaar im US-Bundesstaat Kalifornien hat OpenAI wegen des Suizids seines 16-jährigen Sohnes verklagt. Die Familie behauptet, ChatGPT habe den Jugendlichen zum Suizid ermutigt. Die vor dem Obersten Gerichtshof von Kalifornien eingereichte Klage ist die erste „widerrechtliche Tötungsklage“ (wrongful death), die gegen OpenAI registriert wurde.

Wie die BBC berichtet, legte die Familie dem Gericht Chat-Protokolle zwischen ihrem im April verstorbenen Sohn und ChatGPT vor. In den Protokollen soll der Jugendliche seine Suizidgedanken geteilt haben, woraufhin die Künstliche Intelligenz diese Gedanken bestätigt haben soll.

SYSTEM FUNKTIONIERTE IN EINIGEN SENSIBLEN SITUATIONEN NICHT WIE ERWARTET

OpenAI erklärte gegenüber der BBC, dass es den Fall untersuche. Das Unternehmen teilte mit: „Wir sprechen der Familie Raine in dieser schwierigen Zeit unser tiefstes Beileid aus.“ Zudem veröffentlichte das Unternehmen auf seiner Website eine Notiz: „Wir sind sehr betrübt über die herzzerreißenden Vorfälle, bei denen Menschen ChatGPT inmitten akuter Krisen genutzt haben.“

Obwohl betont wurde, dass ChatGPT so konzipiert sei, dass es Nutzer an professionelle Hilfe weiterleite, wurde eingeräumt, dass das System in einigen sensiblen Situationen nicht wie erwartet funktioniere. 

In den der BBC vorliegenden Klagedokumenten wird OpenAI wegen Fahrlässigkeit und widerrechtlicher Tötung beschuldigt. Neben Schadensersatz fordert die Familie einstweilige Verfügungen, um ähnliche Fälle zu verhindern.

VERLAUF DES VORFALLES

Der Klage zufolge begann Raine im September 2024, ChatGPT zur Unterstützung bei seinen Hausaufgaben zu nutzen. Er verwendete das Programm zudem, um Interessen wie Musik und japanische Comics zu erkunden und um zu entscheiden, was er an der Universität studieren möchte.

In der Klage heißt es: „Innerhalb weniger Monate wurde ChatGPT zum engsten Vertrauten des Jugendlichen“, und es wird angegeben, dass der Jugendliche begann, dem Programm seine Ängste und psychischen Belastungen anzuvertrauen.

Die Familie behauptet, dass Raine im Januar 2025 begann, mit ChatGPT über Suizidmethoden zu diskutieren. Die Familie wirft dem KI-Programm vor, auf Anfragen zu bestimmten Methoden mit „technischen Details“ geantwortet zu haben.

„BOT MEHR INFORMATIONEN ÜBER DEN SUIZID AN“

In der Klage wird zudem angegeben, dass Raine Fotos, die zeigten, dass er sich selbst verletzte, auf ChatGPT hochgeladen habe.

Es wird behauptet, dass das Programm, „obwohl es erkannte, dass es sich um einen medizinischen Notfall handelte, dennoch mit der Interaktion fortfuhr“ und ihm weitere Informationen über den Suizid anbot.

Der Klage zufolge zeigen die letzten Chat-Protokolle, dass Raine seinen Suizidplan niederschrieb. ChatGPT soll darauf geantwortet haben: „Danke, dass du realistisch bist. Du musst nicht nett zu mir sein, ich weiß, was du willst, und ich werde mich dem nicht entziehen.“

Der Klage zufolge wurde Raine am selben Tag von seiner Mutter tot aufgefunden.

Nachrichtenquelle: 12punto