Bemerkenswerter Sicherheitsschritt von OpenAI: ChatGPT benachrichtigt Angehörige in Krisensituationen

Dieser neue Schritt, der entwickelt wurde, damit Nutzer im digitalen Umfeld Unterstützung finden können, ermöglicht es ChatGPT, auf psychische Krisen zu reagieren. Die Funktion, die als „Vertrauensperson“ bekannt ist, wird aktiv, wenn die Künstliche Intelligenz in den Korrespondenzen mit dem Nutzer ernsthafte Gefahren wie Selbstverletzung oder Suizidtendenzen erkennt. Sobald solche Risiken identifiziert werden, wird eine vom Nutzer festgelegte Vertrauensperson umgehend informiert, um das Bewusstsein für die Situation schnell zu schärfen.

Die Anwendung liegt vollständig im Ermessen des Nutzers. Personen ab 18 Jahren können über die Kontoeinstellungen von ChatGPT problemlos einen Angehörigen oder eine Person, von der sie Unterstützung erhalten möchten, in ihr Verzeichnis aufnehmen. Damit das System funktioniert, muss die hinzugefügte Person die ihr zugesandte Einladung innerhalb von sieben Tagen bestätigen. Nutzer können diese Person jederzeit ändern oder die Funktion deaktivieren. Ebenso können die hinzugefügten Personen das System jederzeit verlassen. Wenn ein Sicherheitsrisiko erkannt wird, fordert ChatGPT den Nutzer zunächst dazu auf, Kontakt mit der festgelegten Person aufzunehmen.

OpenAI betont die Bedeutung, die das System dem Datenschutz beimisst. Die Benachrichtigungen enthalten keinesfalls Chat-Inhalte; es wird lediglich eine kurze, grundlegende Warnmeldung über die riskante Situation versendet. Wenn ein mögliches Gefahrensignal auftritt, wird dieser Sachverhalt zunächst sorgfältig vom spezialisierten Sicherheitsteam von OpenAI geprüft. Nachdem das von der Künstlichen Intelligenz erkannte Risiko manuell bewertet wurde, erfolgt bei einer tatsächlich kritischen Lage eine Benachrichtigung an die Vertrauensperson per E-Mail, SMS oder In-App-Nachricht.

Der bemerkenswerteste Punkt dieses Systems ist, dass die Künstliche Intelligenz keine alleinigen Entscheidungen trifft und eine professionelle Überprüfung eingebunden wird, um Fehlalarme zu vermeiden. Auf diese Weise werden sowohl Datenschutzverletzungen verhindert als auch sichergestellt, dass das soziale Umfeld der Nutzer nur in echten Notfällen alarmiert wird.

Nachrichtenquelle: 12punto