Gefälschte pornografische Inhalte von Taylor Swift mittels Deepfake erstellt

Der Kongressabgeordnete Joseph Morelle, der bereits zuvor einen Gesetzesentwurf zur Verhinderung von Deepfakes vorgestellt hatte, erklärte, dass solche Bilder und Videos "irreversible emotionale, finanzielle und rufschädigende Schäden verursachen können".

Wir sehen bereits seit Jahren, wie das Internet und die Technologie von böswilligen Akteuren für unterschiedliche Zwecke missbraucht werden. Doch durch die Deepfake-Technologie erleben wir, dass viele berühmte Künstler, Politiker oder bekannte Persönlichkeiten Dinge tun oder tragen, die sie niemals gesagt, getan oder getragen haben. Mit dieser Technologie werden insbesondere gefälschte pornografische Inhalte von bekannten Frauen erstellt. Das jüngste Opfer dieser Praxis ist Taylor Swift.

BILDER VON TAYLOR SWIFT KÖNNTEN AUS EINER FRAUENFEINDLICHEN TELEGRAM-GRUPPE STAMMEN

Die Quelle der gefälschten Bilder von Taylor Swift ist offiziell nicht bekannt, doch sie erreichten mehr als 45 Millionen Aufrufe. Diese erstellten Bilder wurden auf X geteilt, und der Hashtag „Taylor Swift AI“ gelangte in die weltweiten Trends. In einigen Regionen wurde dieser Begriff zum Suchtrend.

Laut 404 Media wird Swift diesen Vorfall nicht auf sich beruhen lassen und rechtliche Schritte einleiten. Die Medienplattform begann zudem mit eigenen Recherchen, um den Ursprung der Bilder zurückzuverfolgen. Dabei wurde bekannt, dass die hier veröffentlichten gefälschten Bilder aus einer Telegram-Community stammen, die sich „obszönen Bildern von Frauen widmet“. Es wurde berichtet, dass in dieser Community obszöne Frauenbilder geteilt werden, die mit Microsoft Designer durch künstliche Intelligenz erzeugt wurden.

Mason Allen, Leiter für Wachstum bei der Deepfake-Erkennungsplattform Reality Defender, sagte: „Leider haben sie sich auf Millionen von Nutzern verbreitet, bevor einige davon entfernt werden konnten.“

RUF NACH GESETZLICHER REGULIERUNG

Nachdem die Bilder für Aufsehen gesorgt hatten, wurden Forderungen nach gesetzlichen Regelungen laut. Der Kongressabgeordnete Joseph Morelle, der bereits zuvor einen Gesetzesentwurf zur Verhinderung von Deepfakes vorgestellt hatte, ist der Ansicht, dass die Bilder und Videos „irreversible emotionale, finanzielle und rufschädigende Schäden verursachen können“.

Bisher liegt noch keine Stellungnahme der berühmten Künstlerin zu dem Thema vor, doch wir sehen, wie die Technologie in den falschen Händen zu einer schrecklichen Waffe werden kann. Einige KI-Tools verhindern zwar die Erstellung von FSK-18- und gefälschten Inhalten, doch bei anderen ist dies nicht der Fall. Zudem wird die Mehrheit dieser Tools kostenlos angeboten. Darüber hinaus blieben diese Bilder, die eigentlich gegen die Richtlinien von X verstoßen, stundenlang auf der Plattform im Umlauf. Dies wurde als Versagen von X gewertet.

Update: Die Pressesprecherin des Weißen Hauses, Karine Jean-Pierre, erklärte, dass die Situation besorgniserregend sei und die US-Regierung daran arbeite, durch „gesetzliche Maßnahmen“ eine Lösung zu finden. Jean-Pierre sagte: „Es ist besorgniserregend, dass gefälschte Bilder von Taylor Swift in den sozialen Medien geteilt werden. Wir wissen, dass solche Vorfälle Frauen und Mädchen unverhältnismäßig stark treffen. Die Biden-Regierung ist entschlossen, das Risiko durch gefälschte KI-Bilder mittels gesetzlicher Maßnahmen zu verringern. Die Arbeit an echten Lösungen wird fortgesetzt. Während soziale Medienunternehmen in Bezug auf die Inhaltsmoderation ihre eigenen unabhängigen Entscheidungen treffen, glauben wir, dass sie eine wichtige Rolle dabei spielen, ihre eigenen Regeln durchzusetzen, um die Verbreitung von Fehlinformationen und intimen Bildern echter Personen ohne deren Zustimmung zu verhindern.“

Nachrichtenquelle: 12punto

Verwandte Nachrichten

Neue Frame-Generation-Technologie zur Steigerung der Bildraten

Durchbruch in der Krebstherapie durch Nanotechnologie

Die Auswirkungen des durch die Pandemie ausgelösten technologischen Wandels halten an