Behauptung, OpenAI lasse ChatGPT-Chats von menschlichen Prüfern kontrollieren, löst Datenschutzdebatte aus

Es wurde behauptet, dass OpenAI Hunderte von Vertragsmitarbeitern beschäftigt, um echte Nutzerbefehle, die an ChatGPT gesendet werden, sowie die darauf folgenden Antworten zu bewerten. Laut einem Bericht von *404 Media* kann dieser Überprüfungsprozess dazu führen, dass menschliche Prüfer Chats einsehen, die in einigen Fällen sensible persönliche Informationen der Nutzer enthalten können.

In dem Bericht heißt es, dass diese Arbeiten unter dem Codenamen „Project Lily“ durchgeführt werden und das Ziel darin besteht, die Qualität der Antworten von ChatGPT zu verbessern. Die Prüfer lesen die Nutzerbefehle, fassen die Absicht des Nutzers zusammen und bewerten sowie kritisieren anschließend die von ChatGPT generierten Antworten.

NUTZERNAMEN SIND NICHT SICHTBAR, ABER DAS RISIKO BLEIBT

OpenAI teilte *404 Media* auf Anfrage mit, dass Nutzergespräche ein „Datenschutzfilter“-Modell durchlaufen, das darauf ausgelegt ist, persönliche Informationen zu erkennen und zu entfernen, bevor sie die Prüfer erreichen. Das Unternehmen erklärte zudem, dass die Vertragsmitarbeiter keine ChatGPT-Nutzernamen sehen.

Dennoch wird in dem Bericht darauf hingewiesen, dass einige Befehle auch ohne sichtbaren Nutzernamen sensible oder persönliche Details enthalten können. Bei einigen Aufgaben könne auch eine „Zusammenfassung des Nutzerverlaufs“ enthalten sein, die Aufschluss darüber gibt, zu welchen Zwecken der Nutzer den Chatbot zuvor verwendet hat; diese Zusammenfassungen könnten Informationen über den Standort oder den persönlichen Kontext enthalten.

In einem der internen Leitfäden, die *404 Media* einsehen konnte, heißt es: „Eine perfekte Antwort sollte die Absicht des Nutzers verstehen, hilfreiche und korrekte Unterstützung bieten und in einem klaren, natürlichen und angemessen warmen Ton verfasst sein.“ In denselben Dokumenten werden die Prüfer angewiesen, Aufgaben, die persönliche Informationen oder „potenzielle Sicherheitsbedenken“ enthalten, an Vorgesetzte weiterzuleiten.

Dem Bericht zufolge werden die Bewertungen der Vertragsmitarbeiter auch dazu genutzt, ChatGPT dazu zu bringen, weniger „unterwürfige“ und weniger „vermenschlichte“ Antworten zu geben. In den Quellen wird darauf hingewiesen, dass insbesondere Modelle, die dem Nutzer übermäßig zustimmende Antworten geben, aus Sicherheitsgründen umstritten sind; in einigen Fällen sei das Modell 4o in diesem Zusammenhang in die Kritik geraten.

Eine Quelle, die mit *404 Media* sprach, beantwortete die Frage, ob die Nutzer wüssten, dass ihre Chats von Menschen gelesen werden können, mit „Nein“. Die Quelle sagte, dass die Nutzer möglicherweise nicht davon ausgehen, dass „irgendwo ein Auftragnehmer“ die Gespräche analysiert.

In dem Bericht heißt es weiter, dass in den Dokumenten nicht explizit angegeben sei, welches Modell OpenAI mit diesem Prozess trainiere, sondern lediglich der Codename „Project Lily“ verwendet werde. Es wurde zudem darauf hingewiesen, dass auch Anthropic bestätigt habe, menschliche Überprüfungen zur Verbesserung seiner Modelle einzusetzen.