Experten besorgt: Entwickelt sich Deepfake zu einer Waffe für Massentäuschungen?

Etwa ein Viertel der Weltbevölkerung wird im Jahr 2024 an die Wahlurnen gehen. Die Sorge wächst, dass Desinformation und KI-gestützte Manipulationen genutzt werden könnten, um Wahlergebnisse zu beeinflussen. Experten fürchten die Folgen der zunehmenden Verbreitung von Deepfake-Beispielen. Ein Unternehmen für digitale Sicherheit hat das Thema Deepfake unter die Lupe genommen und untersucht, ob es sich dabei um eine Waffe zur Massentäuschung handelt.

Überlass die Wahl deiner Nachrichten nicht dem Algorithmus - entscheide selbst, was du liest. Füge 12punto zu deinen bevorzugten Quellen hinzu!

Experten besorgt: Entwickelt sich Deepfake zu einer Waffe für Massentäuschungen?

Etwa zwei Milliarden Wähler werden in diesem Jahr zu den Wahllokalen gehen, um ihre Stimme für ihre bevorzugten Vertreter und politischen Führungspersönlichkeiten abzugeben. Da in zahlreichen Ländern, darunter den USA, Großbritannien und Indien (sowie für das Europäische Parlament), wichtige Wahlen anstehen, hat dies das Potenzial, die politische Landschaft und die geopolitische Ausrichtung für die nächsten Jahre und darüber hinaus zu verändern.

Da gefälschte Bilder, Audio- und Videoclips von echten Menschen immer weiter verbreitet werden, sorgt die Möglichkeit einer KI-gestützten Desinformation für zunehmende Besorgnis.

Seitdem Fake News während des Rennens um das Weiße Haus im Jahr 2016 zu einem großen Thema wurden, beherrschen sie die Schlagzeilen rund um Wahlen.

Acht Jahre später gibt es eine zweifellos größere Bedrohung: eine Kombination aus Desinformation und Deepfakes, die selbst Experten täuschen kann.

ANGEBLICHE AUDIOAUFNAHME VON BIDEN

Die jüngsten Beispiele für KI-generierte wahlbezogene Inhalte, darunter eine Reihe von Bildern und Videos, die vor den Wahlen in Argentinien in Umlauf gebracht wurden, sowie eine manipulierte Audioaufnahme von US-Präsident Joe Biden, könnten Vorboten dessen sein, was in größerem Maßstab bevorsteht.

WELTWIRTSCHAFTSFORUM UNTERSTREICHT DAS RISIKO

Fehlinformationen und Desinformation wurden vom Weltwirtschaftsforum (WEF) als das bedeutendste globale Risiko für die kommende Zeit eingestuft. Das Problem mit Deepfakes wird darin gesehen, dass KI-gestützte Technologie mittlerweile billig, zugänglich und so leistungsfähig geworden ist, dass sie massiven Schaden anrichten kann.

Dies erhöht die Fähigkeiten von Cyberkriminellen, böswilligen politischen Akteuren und Hacktivisten, überzeugende Desinformationskampagnen sowie flüchtigere, einmalige Betrugsversuche zu starten.

Dem Bericht des WEF zufolge wird synthetischer Inhalt in den nächsten zwei Jahren Individuen manipulieren, Volkswirtschaften schädigen und Gesellschaften auf verschiedene Weise spalten.

Dass Tools wie ChatGPT und leicht zugängliche generative KI (GenAI) es einem breiteren Spektrum von Personen ermöglichen, sich an der Erstellung von Desinformationskampagnen zu beteiligen, die von Deepfake-Technologie gesteuert werden, stellt eine erhebliche Herausforderung dar.

KÖNNTE EIN GEWINN FÜR GEGNERISCHE GRUPPEN SEIN

In einem Wahlprozess können Deepfakes genutzt werden, um das Vertrauen der Wähler in einen bestimmten Kandidaten zu erschüttern. Wenn die Anhänger einer politischen Partei oder eines Kandidaten durch gefälschte Audio- oder Videodateien gezielt in die Irre geführt werden können, wäre dies ein Gewinn für gegnerische Gruppen.

Dieser Herausforderung liegt eine einfache Tatsache zugrunde: Menschen neigen dazu, bei der Informationsverarbeitung Quantität und einfache Verständlichkeit zu bevorzugen. Je mehr Inhalte wir mit einer ähnlichen Botschaft sehen und je einfacher diese zu verstehen sind, desto höher ist die Wahrscheinlichkeit, dass wir ihnen glauben.

Wenn man dazu noch die Tatsache hinzufügt, dass es immer schwieriger wird, Deepfakes von echten Inhalten zu unterscheiden, hat man ein Rezept für eine potenzielle demokratische Katastrophe.

WAS TUN TECHNOLOGIEUNTERNEHMEN DAGEGEN?

Sowohl YouTube als auch Facebook wird vorgeworfen, nur langsam auf einige Deepfakes reagiert zu haben, die darauf abzielten, eine kürzlich stattgefundene Wahl zu beeinflussen. Dies geschah trotz eines neuen EU-Gesetzes (Gesetz über digitale Dienste), das Social-Media-Unternehmen dazu verpflichtet, Versuche der Wahlmanipulation zu verhindern.

OpenAI hat angekündigt, die digitalen Identitätsnachweise der Coalition for Content Provenance and Authenticity (C2PA) für von DALL-E 3 generierte Bilder zu implementieren.

Die kryptografische Wasserzeichen-Technologie, die auch von Meta und Google getestet wird, wurde entwickelt, um die Erstellung gefälschter Bilder zu erschweren. Dies sind jedoch noch erste Schritte, und es gibt berechtigte Sorgen, dass die technologische Reaktion auf die Bedrohung zu wenig und zu spät kommt, während das Wahlfieber die ganze Welt erfasst.

Besonders wenn sie in relativ geschlossenen Netzwerken wie WhatsApp-Gruppen oder durch automatisierte Anrufe (Robocalls) verbreitet werden, wird es schwierig sein, gefälschte Audio- oder Videodateien schnell aufzuspüren und zu widerlegen.

Nachrichtenquelle: 12punto