ChatGPT: Beratungsverbot in kritischen Bereichen eingeführt

Den aktuellen Richtlinien von OpenAI zufolge darf ChatGPT künftig keine direkte Beratung mehr in sensiblen Bereichen wie Gesundheit, Recht und Finanzen anbieten. Mit dieser Änderung, die seit dem 29. Oktober in Kraft ist, kann die Künstliche Intelligenz bei Anfragen, die eine fachliche Einschätzung erfordern, nur noch Informationen bereitstellen oder den Nutzer an entsprechende Experten verweisen.

WAS HAT SICH DURCH DIE NEUEN REGELUNGEN GEÄNDERT?

Dem Beschluss zufolge wird ChatGPT Handlungen wie das Nennen von Medikamentennamen, Dosierungsempfehlungen, das Verfassen rechtlicher Schriftsätze oder das Erteilen von Anlageberatungen unterlassen. Experten erklären, dass mit dieser Regelung das Risiko von Fehlinformationen verringert und der Schutz vertraulicher persönlicher Daten der Nutzer gewährleistet werden soll. Zudem wird betont, dass ChatGPT nicht mehr die Rolle von Ärzten, Anwälten oder Finanzberatern einnehmen wird; stattdessen soll die Anwendung den Nutzer bei allgemeinen Informationsfragen unterstützen.

ETHISCHE UND SICHERHEITSRELEVANTE ASPEKTE DER VERBOTE

Die genannten Änderungen konzentrieren sich auch auf Datensicherheit und ethische Werte. Es wurde darauf hingewiesen, dass verhindert werden muss, dass ChatGPT im Bildungsbereich als Hilfsmittel zum Betrug bei Prüfungen, Hausaufgaben oder bei der Erstellung urheberrechtlich geschützter Kunstwerke eingesetzt wird. Zudem wurde klargestellt, dass das Modell keine psychologische Unterstützung oder Therapie anbieten kann. Die Unfähigkeit von ChatGPT, individuelle Empathie zu zeigen und persönliche Risikobewertungen vorzunehmen, wurde als Hauptgrund für das Verbot solcher Nutzungen genannt.

KÜNSTLICHE INTELLIGENZ WIRD NICHT MEHR ALS EXPERTENERSATZ DIENEN

Mit dem Update rückt die Rolle von ChatGPT als „Assistent“ in den Vordergrund; die Anwendung wurde offiziell von ihrer Rolle als „Berater“ für gesundheitliche, rechtliche und finanzielle Entscheidungen entbunden. Expertenmeinungen zufolge wird dieser Schritt als Wendepunkt gewertet, der offiziell anerkennt, dass Künstliche Intelligenz menschliche Expertise nicht ersetzen kann.

Nachrichtenquelle: 12punto