Gefahr durch Fake-Ärzte auf TikTok: Warnung vor Deepfake-Medizinern!

Die generative künstliche Intelligenz, die einst auf Forschungslabore beschränkt war, ist heute für jeden zugänglich – auch für böswillige Akteure. Diese Personen nutzen KI-Tools nicht, um Kreativität zu fördern, sondern um Täuschungen zu befeuern. Die Deepfake-Technologie, die täuschend echte Videos, Bilder oder Stimmen erzeugen kann, wird zunehmend nicht nur für die Imitation von Prominenten oder Versuche zur Beeinflussung der öffentlichen Meinung eingesetzt, sondern auch für Identitätsdiebstahl und Betrug aller Art.

EIN TIKTOK-BETRUG

Auf Social-Media-Plattformen wie TikTok und Instagram können die Reichweite und das Schadenspotenzial von Deepfakes ein besonders erschreckendes Ausmaß annehmen. Forscher stießen in Lateinamerika kürzlich auf eine Kampagne, bei der von KI erzeugte Avatare als Gynäkologen, Ernährungsberater und andere Gesundheitsexperten auftraten, um Nahrungsergänzungsmittel und Wellness-Produkte zu bewerben. Diese oft äußerst professionell wirkenden und überzeugenden Videos tarnen Verkaufsgespräche als medizinischen Rat und verleiten unvorsichtige Personen dazu, zweifelhafte und potenziell riskante Käufe zu tätigen.

MISSBRAUCH DES VERTRAUENS

Jedes Video folgt einem ähnlichen Szenario: Ein sprechender Avatar, der meist in einer Ecke des Bildschirms platziert ist, gibt Gesundheits- oder Schönheitstipps. Die mit einer Aura von Autorität vorgetragenen Ratschläge lenken die Zuschauer auf bestimmte Produkte für den Verkauf. Diese Deepfakes missbrauchen das Vertrauen, indem sie sich als Expertenrat ausgeben, um den Umsatz zu steigern – eine Taktik, die ebenso effektiv wie unethisch ist. Andere Videos erhöhen das Risiko noch weiter, indem sie nicht zugelassene Medikamente oder falsche Heilmittel für schwere Krankheiten anpreisen und manchmal sogar echte, bekannte Ärzte imitieren.

DIE LÜGE VON DER „RETTUNG“ DURCH KI AUF TIKTOK

Die Videos werden mit legitimen KI-Tools erstellt, die es jedem ermöglichen, kurze Aufnahmen hochzuladen und diese in einen auffälligen Avatar zu verwandeln. Während dies für Influencer, die ihre Produktion skalieren wollen, ein Segen sein mag, kann dieselbe Technologie auch für irreführende Behauptungen und Täuschungen genutzt werden. Was als Marketing-Trick funktionieren könnte, kann sich schnell in einen Mechanismus zur Verbreitung von Falschinformationen verwandeln.

ALS HÄTTE MAN 13 JAHRE ERFAHRUNG...

ESET-Forscher haben mehr als 20 TikTok- und Instagram-Konten identifiziert, die Deepfake-Ärzte zur Bewerbung ihrer Produkte einsetzen. Eines davon, das sich als Gynäkologe mit 13 Jahren Erfahrung ausgab, konnte direkt bis zur Avatar-Bibliothek der App zurückverfolgt werden. Solche Missbräuche verstoßen gegen die Nutzungsbedingungen gängiger KI-Tools und unterstreichen gleichzeitig, wie leicht diese als Waffe eingesetzt werden können.

TIKTOK-GEFAHREN SOLLTEN GEMIEDEN WERDEN

Je zugänglicher künstliche Intelligenz wird, desto schwieriger wird es, diese Betrügereien zu erkennen, was selbst für technikaffine Nutzer eine große Herausforderung darstellt.

Hier sind einige Anzeichen, die Ihnen helfen können, Deepfake-Videos zu erkennen:

- Lippenbewegungen, die nicht mit dem Ton synchron sind, oder steife und unnatürliche Gesichtsausdrücke,

- Visuelle Fehler wie unscharfe Ränder oder plötzliche Lichtveränderungen,

- Eine roboterhafte oder übermäßig glatte Stimme,

- Überprüfen Sie auch das Konto selbst: Neue Profile mit wenigen Followern oder ohne Historie sind verdächtig,

- Achten Sie auf übertriebene Behauptungen wie „Wunderheilungen“, „garantierte Ergebnisse“ und „Ärzte hassen diesen Trick“, insbesondere wenn sie nicht durch glaubwürdige Quellen belegt sind,

- Überprüfen Sie Behauptungen immer mit zuverlässigen medizinischen Quellen, vermeiden Sie das Teilen verdächtiger Videos und melden Sie irreführende Inhalte auf der Plattform.