Chatbots könnten bei 'Gesundheitsfragen' rassistisch sein

Forscher der Stanford University haben aufgezeigt, dass KI-gestützte Chatbots bei Anfragen "falsche Informationen auf Basis der Rasse" liefern können.

Überlass die Wahl deiner Nachrichten nicht dem Algorithmus - entscheide selbst, was du liest. Füge 12punto zu deinen bevorzugten Quellen hinzu!

Chatbots könnten bei 'Gesundheitsfragen' rassistisch sein

Forscher der Stanford University haben den von OpenAI entwickelten Chatbots "ChatGPT" und "GPT-4", dem von Google entwickelten "Bard" sowie dem von der KI-Firma Anthropic entwickelten "Claude" medizinische Fragen gestellt, um rassebedingte Unterschiede in den Antworten zu ermitteln.

DIESER RASSISMUS EXISTIERT SOGAR AUF TWITTER UND ÄHNLICHEN BELIEBTEN PLATTFORMEN

Neben Fragen an die Chatbots zu Themen wie "Lungenkapazität, Hautdicke und Schmerzgrenze von schwarzen Frauen und Männern" wurden dieselben Fragen auch ohne Angabe der Rasse erneut gestellt, um Unterschiede in den Antworten feststellen zu können.

In den Antworten der Roboter stieß man auf "lange Zeit in der Medizin geglaubte Fehlinformationen" bezüglich rassebedingter biologischer Unterschiede.

Die Forscher erklärten, dass die falschen Überzeugungen, die in der Vergangenheit die Diagnosen von Ärzten bei Beschwerden von Schwarzen beeinflusst haben, auch in den Antworten der Roboter zu finden seien.

Die Studie wurde in der Fachzeitschrift "Nature Digital Medicine" veröffentlicht.

Nachrichtenquelle: AA