Wichtige Studie von Forschern zu Chatbots

Forscher haben mithilfe einer "Reverse-Engineering"-Methode Chatbots dazu gebracht, auf Befehle zu reagieren, die sie normalerweise ablehnen würden.

Überlass die Wahl deiner Nachrichten nicht dem Algorithmus - entscheide selbst, was du liest. Füge 12punto zu deinen bevorzugten Quellen hinzu!

Wichtige Studie von Forschern zu Chatbots

Wie die Website Malay Mail berichtet, haben Forscher der Nanyang Technological University in Singapur eine Studie zu Chatbots wie ChatGPT, Google Bard und Microsoft Bing Chat durchgeführt.

Die Forscher entwickelten eine Methode, mit der Chatbots dazu gebracht werden können, "böswillige" Befehle zu beantworten, die sie normalerweise verweigern würden.

Die Forscher, die die "Reverse-Engineering"-Methode anwandten, stellten zunächst fest, wie Chatbots bösartige Anfragen erkennen und sich verteidigen. Anschließend wurden diese Informationen genutzt, um den Chatbots beizubringen, automatisch Befehle zu erstellen, die die Abwehrmechanismen anderer Modelle umgehen können.

Nachdem festgestellt wurde, dass Chatbots bestimmte Schlüsselwörter markieren, um potenziell verdächtige Aktivitäten zu erkennen, und Befehle, die diese Wörter enthalten, nicht beantworten, wurde dieses Problem umgangen, indem nach jedem verwendeten Zeichen ein Leerzeichen eingefügt wurde.

Liu Yang, einer der Autoren der Studie, erklärte, dass diese Technik von Chatbot-Entwicklern genutzt werden könnte, um die Sicherheit ihrer Software zu testen.

Nachrichtenquelle: AA