Das erschreckende Gesicht der Künstlichen Intelligenz: Deepfake – Sie imitieren Prominente täuschend echt und begehen Betrug in Höhe von Hunderttausenden Dollar

In jüngster Zeit ist zu beobachten, dass Betrug durch KI-gestützte Videoerstellungs- und Sprachmanipulationssysteme eine neue Stufe erreicht hat.

Während diese Systeme eingesetzt werden, um Bankdaten und Investitionen von Personen zu stehlen, locken Kriminelle ihre Opfer mithilfe der sogenannten „Deepfake“-Methode in die Falle, bei der manipulierte Audio- und Videodaten verwendet werden.

Während diese Systeme eingesetzt werden, um Bankdaten und Investitionen von Personen zu stehlen, locken Kriminelle ihre Opfer mithilfe der sogenannten „Deepfake“-Methode in die Falle, bei der manipulierte Audio- und Videodaten verwendet werden.

Über diese gefälschten Videos, in denen bekannte Persönlichkeiten "radikale Investitionsmöglichkeiten mit schnellen Renditen" anpreisen und über die Wirtschaft sprechen, werden Menschen dazu verleitet, in nicht existierende Unternehmen zu investieren.

Über die Videos werden die Zielpersonen aufgefordert, Geld auf bestimmte Konten zu überweisen, um von den besagten Investitionen zu profitieren; im Gegenzug wird ihnen versprochen, dass sie mehr Geld zurückerhalten, als sie eingezahlt haben.

Videos, die mit sehr geringem Budget erstellt werden können, lassen sich innerhalb von Minuten produzieren und als Werbung auf beliebten Plattformen wie Facebook und YouTube schalten.

In den Aufnahmen, in denen die Akzente berühmter Persönlichkeiten imitiert werden können, werden zudem gefälschte Grafiken und Logos von Nachrichtenseiten verwendet, um Menschen in die Irre zu führen.

Es wird darauf hingewiesen, dass Musk mit mehr als 2.000 identifizierten "Deepfake"-Videos die am häufigsten für diese Betrugsmethode genutzte Person ist.

Experten weisen unterdessen darauf hin, dass "Deepfake"-Videos zwar noch nicht "vollkommen perfekt" seien, sich jedoch stetig weiterentwickeln und zunehmend glaubwürdiger werden.

Lou Steinberg, Gründer des Cybersicherheitsunternehmens CTM Insights, erklärte gegenüber der New York Times, dass die Zahl derer, die auf diese Methode zurückgreifen, weiter steigen werde, sobald organisierte kriminelle Gruppen erkennen, dass sie diese Technologie für ihre eigenen Zwecke missbrauchen können.

Laut einem Bericht der New York Times ist der 82-jährige Rentner Steve Beauchamp eines der Opfer von "Deepfake"-Betrug. Beauchamp verlor im Jahr 2023 einen Großteil seiner Ersparnisse, nachdem er auf eine "Deepfake"-Werbung mit Elon Musk hereingefallen war.

Beauchamp gab an, nach dem Ansehen eines Videos, in dem Musk von einer Investitionsmöglichkeit mit hoher Rendite sprach, rund 690.000 Dollar an Betrüger überwiesen zu haben.

Steve Beauchamp erklärte, er habe geglaubt, die Person im Video sei tatsächlich Musk, und drückte sein Bedauern darüber aus, die Polizei nicht rechtzeitig über den Vorfall informiert zu haben.

Zu den Opfern, die auf diese Weise betrogen wurden, zählen auch Mitarbeiter multinationaler Unternehmen.

In einem Bericht von Nature wurden auch die Geschichten des südafrikanischen Urologen Kgomotso Mathabe und des indischen Arztes Viswanathan Mohan beleuchtet.

Mathabe bemerkte, dass Bilder von ihm, die mittels „Deepfake“-Technologie erstellt wurden, in einer Internetwerbung verwendet wurden, nachdem er von zahlreichen Betrugsopfern belästigt wurde.

Mathabe berichtete, dass in der Anzeige mit seinem Bild für ein neues Medikament geworben wurde und die Zuschauer auf eine Website weitergeleitet wurden, auf der ihre Kontodaten gestohlen wurden.

Der indische Arzt Viswanathan Mohan hat entdeckt, dass sein Gesicht im Internet für Videos verwendet wird, in denen er in einer ihm unbekannten Sprache Expertenmeinungen äußert, um Menschen zu betrügen.

Mohan merkte an, dass dieses Bildmaterial nicht nur einen Rufmord darstelle, sondern auch rechtliche Probleme aufwerfe.

Die New York Times berichtete, dass auch der australische Bergbau-Milliardär Andrew Forrest, dessen Gesicht ebenfalls in den betreffenden Werbeanzeigen verwendet wurde, bei Meta, dem Eigentümer von Facebook, Instagram und WhatsApp, Beschwerde eingereicht hat.

Als Antwort auf Forrest, der erklärte, dass gefälschte Anzeigen auf Facebook "ahnungslose Nutzer zu schlechten Investitionen" verleiten, teilte das Unternehmen mit, dass es "automatische Erkennungssysteme trainiert, um Betrug auf seiner Plattform aufzuspüren".

YouTube, eine weitere Plattform, auf der "Deepfakes" weit verbreitet sind, gab bekannt, dass mehr als 15,7 Millionen Kanäle und über 8,2 Millionen Videos wegen Verstößen gegen die Richtlinien entfernt wurden.

Das Unternehmen hat zudem eine Kennzeichnungspflicht für Ersteller von Inhalten eingeführt, wenn diese künstliche Intelligenz zur Erstellung realistischer Inhalte verwenden.