Die erschreckende Wahrheit hinter nicht einvernehmlich veröffentlichten Deepfake-Pornografie-Inhalten

Ein von NBC News durchgeführter Test verdeutlicht, wie anfällig Suchmaschinen für das Problem der Deepfake-Pornografie sind.

In den von Chip aufgegriffenen Details wird berichtet, dass die Suchmaschinen Bing, Google und DuckDuckGo heftiger Kritik ausgesetzt sind, da sie nicht einvernehmliche, mittels künstlicher Intelligenz erstellte Deepfake-Pornografie ganz oben in bestimmten Suchergebnissen platzieren. Diese Kritik folgt auf die Veröffentlichung eines Berichts von NBC News, der Bedenken hinsichtlich der Zugänglichkeit von KI-gestützter Pornografie hervorhebt.

DEEPFAKE IST VÖLLIG AUS DEM RUDER GELAUFEN

Obszöne Deepfake-Videos werden unter Verwendung von originalem pornografischem Material erstellt, wobei die Gesichter der Darsteller (meist Schauspielerinnen) durch die einer bestimmten realen Person (zum Beispiel einer Berühmtheit) ersetzt werden. Dieser Austausch erfolgt automatisch durch künstliche Intelligenz; der Nutzer, der die gefälschten Bilder erstellt, muss die KI lediglich mit Fotos des Opfers füttern.

Laut Tests von NBC News an einer Stichprobe von 36 prominenten Frauen, bei denen der Name der Person in Kombination mit dem Wort „Deepfake“ gesucht wurde, zeigten Bing und Google in fast allen Fällen Deepfake-Videos und -Bilder ganz oben in den Suchergebnissen. Google lieferte 34 solcher Ergebnisse auf den vorderen Plätzen, Bing lieferte 35 Ergebnisse. NBC News wies darauf hin, dass DuckDuckGo ähnliche Probleme aufweist, ohne jedoch das Ausmaß des Problems zu beziffern.

Darüber hinaus kritisierte NBC News, dass Artikel und Nachrichten über das Problem der nicht einvernehmlichen Deepfake-Pornografie bei der Suche nach dem Begriff „Fake-Nacktbilder“ weiter unten angezeigt werden als die unangemessenen Inhalte selbst. Es ist jedoch erwähnenswert, dass NBC News einräumte, die Suchen durchgeführt zu haben, nachdem die Sicherheitsfunktionen von Bing und Google, die die Anzeige obszöner Inhalte verhindern, deaktiviert wurden.

Trotz dieses kleinen Details lässt sich leicht sagen, dass die einfache Zugänglichkeit zu KI-gestützter Pornografie ein erhebliches Problem darstellt und jeder, der nach solchen Inhalten sucht, wahrscheinlich die integrierten Schutzfunktionen deaktivieren wird. Nicht einvernehmliche, obszöne Deepfake-Inhalte sind von Natur aus illegal und gehören daher zu den Inhaltsarten, mit denen sich Microsoft, Google und andere befassen müssen.

WAS KANN GEGEN DEEPFAKES GETAN WERDEN?

Der einfachste Weg oder möglicherweise der erste, vorläufige Schritt zur Implementierung fortschrittlicherer technologischer Maßnahmen könnte darin bestehen, Websites, von denen bekannt ist, dass sie solche Inhalte veröffentlichen, aus den Suchergebnissen zu entfernen oder vollständig zu sperren. Da laut NBC News mehr als die Hälfte der besten Ergebnisse in ihren Tests aus Links zu einer beliebten Deepfake-Website oder einem Konkurrenten bestanden, könnte ein solcher Schritt den derzeit schädlichen Charakter der Suchergebnisse erheblich reduzieren.

Microsoft war das einzige Unternehmen, das nicht auf die Bitte von NBC News um eine Stellungnahme reagierte. Ein Sprecher von DuckDuckGo erklärte, dass Bing die Hauptquelle für deren Weblinks und Bildergebnisse sei. Zudem bietet DuckDuckGo Möglichkeiten, Anfragen zum Datenschutz zu stellen, beispielsweise um die Entfernung bestimmter Inhalte aus der Suche zu beantragen.

Google bietet ebenfalls eine ähnliche Option für Deepfake-Opfer an, doch NBC News argumentiert unter Berufung auf Experten und Aktivisten, dass dies nicht ausreiche. Zudem könnten Opfer, die aufgefordert werden, URLs mit sensiblen Inhalten zur Überprüfung einzureichen, in diesem Prozess möglicherweise weiteren Schaden erleiden.

Nachrichtenquelle: 12punto

Verwandte Nachrichten

Die Deepfake-Wahrheit: Nur 21 % der Arbeitnehmer in der Türkei können sie von echten Aufnahmen unterscheiden

18 Dinge, die Sie ab Ende dieses Monats nicht mehr mit dem Google Assistant tun können

Nach Google entlässt nun auch Discord zahlreiche Mitarbeiter