Meta soll Werbung mit KI-generiertem Kindesmissbrauch genehmigt haben

Meta steht erneut im Zentrum einer Debatte über Werbekontrolle und Richtlinien zum Schutz von Kindern. Forscher des Tech Transparency Project (TTP) gaben bekannt, dass sie bei einer Untersuchung der öffentlich zugänglichen Werbebibliothek des Unternehmens Dutzende bezahlte Anzeigen entdeckt haben, die Material enthalten, das als KI-generierter sexueller Kindesmissbrauch eingestuft wird.

Der Untersuchung zufolge wurden die betreffenden Anzeigen zwischen November 2025 und Anfang August 2026 geschaltet. Die Anzeigen erreichten Nutzer in den USA, Großbritannien und mehr als 12 europäischen Ländern; eine einzige in Europa geschaltete Anzeige soll mehr als 2.500 Konten erreicht haben.

Katie Paul, Direktorin des TTP, erklärte, dass es sich bei den Inhalten nicht um Beiträge handele, die von außerhalb der Plattform durchgesickert seien, sondern um Anzeigen, die von Metas Systemen geprüft und genehmigt wurden und mit denen das Unternehmen Einnahmen erzielte. Die Forscher argumentierten, dass einige Anzeigen so explizit waren, dass sie nicht einmal den Versuch unternahmen, zu verbergen, was sie bewarben.

NEUE ANZEIGEN TROTZ WARNUNGEN ENTDECKT

Der Untersuchung zufolge leitete ein erheblicher Teil der Anzeigen auf sogenannte „Nudifying“-Apps weiter, die Personen ohne deren Zustimmung entkleidet darstellen. Nachdem Wired das Thema bei Apple gemeldet hatte, wurde die App namens MaskAI aus dem App Store entfernt.

Die Forscher erklärten, dass sie in der ersten Phase etwa zwei Dutzend regelwidrige Anzeigen gefunden hätten und in den Stunden, nachdem Wired Meta mit dem Thema konfrontiert hatte, 30 weitere Anzeigen entdeckt worden seien. Dies stütze den Vorwurf, dass das System auch nach einer Warnung an das Unternehmen weiterhin ähnliche Anzeigen genehmigte.

Es wurde zudem behauptet, dass einige Anzeigen exakt mit Inhalten übereinstimmten, die Meta zuvor bereits wegen desselben Verstoßes entfernt hatte. Die meisten der werbenden Konten hätten keine oder nur sehr wenige Follower; in den Informationen der Werbetreibenden seien Firmen mit Sitz in China sowie ein ehemaliger Werbevermittler von Meta aufgeführt gewesen.

META: INHALTE NICHT KORREKT, REICHWEITE WAR BEGRENZT

Meta erklärte in einer Stellungnahme, dass die betreffenden Inhalte nicht korrekt seien und die Reichweite begrenzt gewesen sei. Das Unternehmen gab zudem an, im vergangenen Jahr 36 Millionen Inhalte mit Kindesmissbrauch entfernt zu haben.

Dennoch hat die Vergangenheit des Unternehmens im Bereich Kinderschutz dazu geführt, dass die neuen Vorwürfe in einem breiteren Kontext diskutiert werden. Quellen erinnerten daran, dass Meta 2017 jeden Monat mit mehr als 50.000 Meldungen zu sexuellen Inhalten konfrontiert war und dass eine Änderung der Art und Weise, wie Messenger 2019 Informationen mit Strafverfolgungsbehörden teilte, etwa 7,5 Millionen Berichte über Kindesmissbrauch beeinträchtigte.

Im Jahr 2021 hatten durchgesickerte interne Untersuchungen die Debatte über die Auswirkungen von Instagram auf die psychische Gesundheit junger Mädchen verschärft. In einer gemeinsamen Studie der Stanford University und der UMass Amherst aus dem Jahr 2023 wurde zudem behauptet, dass Instagram-Algorithmen Netzwerke von Pädophilen-Konten untereinander vorschlugen und miteinander vernetzten.

Auch in einem von der Generalstaatsanwaltschaft von New Mexico angestrengten Verfahren waren die Verpflichtungen von Meta zum Schutz von Kindern thematisiert worden. In dem Prozess, der im März 2026 abgeschlossen wurde, verurteilte eine Jury Meta zur Zahlung von 375 Millionen Dollar Schadensersatz mit der Begründung, das Unternehmen habe Kinder gefährdet und die Öffentlichkeit getäuscht.

Die jüngsten Vorwürfe haben erneut die Fragen aufgeworfen, wie KI-generierte schädliche Bilder die Werbesysteme passieren können und ob die automatischen Kontrollmechanismen großer Plattformen im Hinblick auf den Kinderschutz ausreichend sind.