TikTok setzt bei der Inhaltsmoderation auf Künstliche Intelligenz: Hunderte Moderatoren vor Entlassung

TikTok wird im Rahmen eines neuen Betriebsmodells, das verstärkt auf KI-Technologien bei der Inhaltsmoderation setzt, Hunderte Mitarbeiter in seinen Vertrauens- und Sicherheitsteams entlassen.

Es wurde bekannt, dass das Unternehmen plant, die Zahl seiner Mitarbeiter in Irland um etwa 300 Personen zu reduzieren. Es wird erwartet, dass die Kürzungen auch Teams in anderen Märkten betreffen werden, doch in welchen Ländern und in welchem Umfang dies geschehen wird, ist noch nicht geklärt.

Inhaltsmoderatoren bei TikTok sind für die Identifizierung und Entfernung schädlicher und gefährlicher Inhalte auf der Plattform zuständig. Da die Überprüfung der Videos nicht regional, sondern sprachbasiert erfolgt, wird davon ausgegangen, dass die Kürzungen nicht nur auf ein bestimmtes Land beschränkt bleiben könnten.

ANTEIL DER KÜNSTLICHEN INTELLIGENZ STEIGT

TikTok-Verantwortliche beschreiben den Prozess als eine Umstrukturierung, die darauf abzielt, das globale Betriebsmodell im Bereich Vertrauen und Sicherheit mit neuen technologischen Möglichkeiten zu stärken. Unternehmensdaten zufolge wurden im Zeitraum von Januar bis April dieses Jahres 97 Prozent der entfernten Inhalte durch automatisierte Technologien gelöscht. Es wurde berichtet, dass 99 Prozent der durch KI entfernten Inhalte bereits vor einer Meldung durch Nutzer aus dem Netz genommen wurden.

Dennoch argumentieren Moderatoren, dass die KI für eine großflächige Inhaltsmoderation noch nicht ausgereift genug sei. Ein Mitarbeiter, der gegenüber dem Independent sprach, berichtete, dass Modelle zur Waffenerkennung Handgesten, die Waffen imitieren, als echte Waffen interpretieren könnten und Systeme zur Bluterkennung Flecken an Wänden fälschlicherweise als Blut einstuften.

Es wird zudem darauf hingewiesen, dass Emojis und versteckte Ausdrücke, die in Kommentarspalten verwendet werden, um Regeln zu umgehen, von automatisierten Systemen nicht immer korrekt erkannt werden. Moderatoren warnen davor, dass Budgetkürzungen die Nutzer anfälliger für Deepfakes, Missbrauch und ähnliche schädliche Inhalte machen könnten.

Der Abgang von mehr als 400 Mitarbeitern aus dem Vertrauens- und Sicherheitsteam im Londoner Büro von TikTok im vergangenen Jahr hatte bereits die Debatten über Online-Sicherheit verschärft. Während in Großbritannien der Druck wächst, Kinder in sozialen Medien vor schädlichen Inhalten zu schützen, hatte Premierminister Keir Starmer angekündigt, dass die Nutzung sozialer Medien für unter 16-Jährige ab dem Frühjahr 2027 verboten werden soll.

Ein TikTok-Sprecher erklärte hingegen, die Umstrukturierung ziele darauf ab, die Teams skalierbarer und agiler zu machen, neue Expertenstellen in Dublin zu schaffen, Möglichkeiten zur Umbesetzung anzubieten und die Plattform-Sicherheit durch technologische Innovationen zu verbessern.

Nachrichtenquelle: 12punto