Microsoft schließt Sicherheitslücke, die zur Erstellung von Taylor-Swift-Deepfakes genutzt wurde

Vor Kurzem sorgten mittels Deepfake erstellte Bilder im Internet für großes Aufsehen. Die Deepfake-Technologie, die häufig bei der Produktion gefälschter pornografischer Inhalte eingesetzt wird, führte zuletzt zu Diskussionen über Bilder von Taylor Swift, die mit dieser Methode erstellt wurden. Swift kündigte an, rechtliche Schritte in dieser Angelegenheit einzuleiten. Die von Microsoft bereitgestellte Sicherheitslücke, die zur Erstellung solcher Bilder genutzt wurde, wurde nun geschlossen.

Die Quelle des Problems wurde in diesem Zusammenhang identifiziert und Microsoft hat die notwendigen Updates für die Azure Face API durchgeführt.

Die Sicherheitslücke wurde entdeckt, nachdem eine Gruppe aufgetaucht war, in der KI-generierte obszöne Bilder von Frauen geteilt wurden, die mit Microsoft Designer erstellt worden waren. Es wird davon ausgegangen, dass böswillige Akteure die Azure Face API nutzten, um Nacktfotos und Videos von Taylor Swift und anderen Prominenten zu erstellen.

Die gefälschten Bilder erreichten innerhalb kurzer Zeit Millionen von Nutzern, woraufhin die Plattform X nach der Kritik Suchanfragen zu Taylor Swift blockierte. Die Bilder, die auch auf Anwendungen wie Facebook und Instagram geteilt wurden, wurden von diesen Plattformen entfernt.

Nachrichtenquelle: 12punto