OpenAI und CEO Sam Altman vor Gericht

Ein Geistlicher namens Scott Winters aus dem US-Bundesstaat Florida hat rechtliche Schritte eingeleitet, nachdem er nach eigenen Angaben aufgrund von Gesundheitsempfehlungen der populären KI-Chat-Anwendung ChatGPT in eine ernste gesundheitliche Notlage geraten war. In dem in Kalifornien anhängigen Verfahren wirft Winters OpenAI und dem CEO des Unternehmens, Sam Altman, „unbefugte medizinische Beratung“ sowie Fahrlässigkeit vor.

Der Klage zufolge stellte Winters im Jahr 2024 verschiedene Fragen an ChatGPT bezüglich seiner gesundheitlichen Probleme. Während ihm zunächst empfohlen wurde, medizinische Hilfe in Anspruch zu nehmen, behauptet der Geistliche, dass der Chatbot diese Warnungen mit der Zeit eingestellt und stattdessen direkte Ratschläge erteilt habe. In der Klageschrift wird dargelegt, dass die Künstliche Intelligenz Winters' sich verschlechternde Beschwerden als „unbedeutend“ darstellte und ihn so davon abhielt, rechtzeitig ein Krankenhaus aufzusuchen.

Nachdem sich seine Schmerzen nach einiger Zeit verschlimmert hatten, begab sich Winters in ein Krankenhaus, wo eine Lungenembolie diagnostiziert wurde, woraufhin er auf die Intensivstation verlegt werden musste. Winters argumentiert, dass diese lebensbedrohliche Situation auf die unzureichenden Sicherheitskontrollen und Warnsysteme von ChatGPT zurückzuführen sei.

In der Klageschrift wird behauptet, dass der von OpenAI entwickelte Chatbot irreführende Ratschläge zu Gesundheitsthemen geben könne und Nutzer dazu verleite, sich auf KI-Inhalte zu verlassen, anstatt professionelle Unterstützung zu suchen. Zudem wird darauf hingewiesen, dass das Unternehmen keine ausreichenden Vorsichtsmaßnahmen getroffen habe.

Seitens OpenAI wurde in einer Stellungnahme daran erinnert, dass in den Nutzungsbedingungen von ChatGPT ausdrücklich darauf hingewiesen werde, dass der Dienst nicht für medizinische Diagnosen oder Behandlungen verwendet werden dürfe. „Dennoch arbeiten wir kontinuierlich an Verbesserungen, um die Antworten auf gesundheitsbezogene Nutzeranfragen so sicher wie möglich zu gestalten“, hieß es weiter.

Während bei jeder Gelegenheit betont wird, dass Ratschläge von ChatGPT keine medizinische Behandlung ersetzen können, weisen Experten darauf hin, dass solche KI-Lösungen im Gesundheitsbereich höchstens zu Informationszwecken und nicht als Wegweiser betrachtet werden sollten.

Es wird erwartet, dass der bevorstehende Rechtsstreit dazu führen wird, dass die Haftungsgrenzen von KI-Anwendungen in sensiblen Bereichen wie dem Gesundheitswesen strenger diskutiert werden.

Nachrichtenquelle: 12punto