Die dunkle Seite der Künstlichen Intelligenz: Südkorea geht gegen „Deepfake-Pornografie“ vor

Im asiatischen Land Südkorea ist ein Problem mit „Deepfake-Pornografie“ aufgetreten. Sicherheitsbehörden in Südkorea gaben bekannt, dass ein Erkennungssystem entwickelt werden soll, um gegen diese „gefälschten sexuellen Inhalte“ vorzugehen, die bei vielen Menschen zu Leid führen.

In einer Erklärung der südkoreanischen Polizei wurde mitgeteilt, dass etwa 6 Millionen Dollar investiert werden sollen, um ein System zur Erkennung von Deepfake-Inhalten aufzubauen.

Laut einem Bericht von Yonhap laufen in Südkorea derzeit Bemühungen, den Anstieg von Straftaten im Zusammenhang mit KI-generierten sexuellen Bildern und Tonaufnahmen zu stoppen. In der Erklärung der Behörden hieß es, dass das Projekt voraussichtlich bis 2027 abgeschlossen sein soll und das System die Identifizierung von Deepfake-Videos beschleunigen werde.

Im Jahr 2024 wurden in Südkorea 573 Verdächtige im Zusammenhang mit 1094 Deepfake-Straftaten festgenommen.

Es war bekannt geworden, dass „Deepfake“-Bilder in Südkorea über Telegram verbreitet wurden. Die Behörden hatten eine Untersuchung gegen die Messaging-App eingeleitet.

DER DEEPFAKE-VORFALL IN SÜDKOREA

Es wurde festgestellt, dass in einigen Chatgruppen, die mit Schulen und Universitäten in Südkorea in Verbindung stehen, „sexuelle Inhalte“ verbreitet wurden, die manipulierte Ton- und Bildaufnahmen von zahlreichen Opfern – überwiegend Frauen und Mädchen – mittels „Deepfake“-Methoden enthielten.

Der Leiter des Nationalen Ermittlungsbüros, Woo Jong-soo, hatte mitgeteilt, dass eine Voruntersuchung gegen Telegram, die Plattform, über die diese Bilder verbreitet wurden, wegen des Vorwurfs der „Beihilfe zu Straftaten“ eingeleitet wurde.

Vertreter von Telegram, die sich mit Beamten der südkoreanischen Kommission für Kommunikationsstandards (KCSC) trafen, erklärten, sie seien sich der Schwere des Problems bewusst und versprachen, eine „Null-Toleranz-Politik“ einschließlich strenger Maßnahmen gegen solches illegales Material umzusetzen.

Nachrichtenquelle: AA