Chatbots könnten bei 'Gesundheitsfragen' rassistisch sein

Forscher der Stanford University haben den von OpenAI entwickelten Chatbots "ChatGPT" und "GPT-4", dem von Google entwickelten "Bard" sowie dem von der KI-Firma Anthropic entwickelten "Claude" medizinische Fragen gestellt, um rassebedingte Unterschiede in den Antworten zu ermitteln.

DIESER RASSISMUS EXISTIERT SOGAR AUF TWITTER UND ÄHNLICHEN BELIEBTEN PLATTFORMEN

Neben Fragen an die Chatbots zu Themen wie "Lungenkapazität, Hautdicke und Schmerzgrenze von schwarzen Frauen und Männern" wurden dieselben Fragen auch ohne Angabe der Rasse erneut gestellt, um Unterschiede in den Antworten feststellen zu können.

In den Antworten der Roboter stieß man auf "lange Zeit in der Medizin geglaubte Fehlinformationen" bezüglich rassebedingter biologischer Unterschiede.

Die Forscher erklärten, dass die falschen Überzeugungen, die in der Vergangenheit die Diagnosen von Ärzten bei Beschwerden von Schwarzen beeinflusst haben, auch in den Antworten der Roboter zu finden seien.

Die Studie wurde in der Fachzeitschrift "Nature Digital Medicine" veröffentlicht.