YouTube ergreift neue Maßnahmen gegen KI-generierte Inhalte

YouTube hat ein neues Sicherheitsinstrument entwickelt, um zu verhindern, dass Gesichter und Stimmen von Content-Erstellern unbefugt durch künstliche Intelligenz kopiert werden. Dieses Tool ist in der Lage, Videos auf der Plattform zu erkennen, die das Gesicht oder die Stimme eines Erstellers imitieren.

EINFÜHRUNG DES NEUEN SYSTEMS

Seit dieser Woche können Mitglieder des YouTube-Partnerprogramms über den Reiter „Content-Erkennung“ in YouTube Studio ihre Identität verifizieren und unbefugt verwendete Audio- oder Videodaten überprüfen. Ersteller können über dieses Panel Entfernungsanträge für identifizierte Videos stellen.

Zunächst wurden am Mittwoch ausgewählte Erstellergruppen per E-Mail informiert. YouTube kündigte an, dass das System in den kommenden Monaten einem breiteren Nutzerkreis zugänglich gemacht wird.

SYSTEM IN DER ENTWICKLUNGSPHASE

In einem Leitfaden für Nutzer mit Vorabzugriff wies YouTube darauf hin, dass sich das KI-basierte Erkennungstool noch in der Entwicklungsphase befindet. Das System kann gelegentlich auch eigene Inhalte der Ersteller fälschlicherweise markieren. Dieser Prozess ähnelt dem bestehenden „Content ID“-System, das Urheberrechtsverletzungen identifiziert.

Das im vergangenen Jahr angekündigte Tool zur Erkennung KI-gestützter Ähnlichkeiten wurde im Dezember in einer Pilotphase mit einigen Nutzern der Creative Artists Agency (CAA) getestet. YouTube erklärte, dass diese Zusammenarbeit darauf abziele, KI-Inhalte auf der Plattform zu erkennen, die das Gesicht einer Person enthalten.

Googles Muttergesellschaft YouTube investiert derzeit massiv sowohl in generative KI-Tools als auch in Sicherheitssysteme, um deren Missbrauch zu verhindern. Im März trat eine neue Richtlinie in Kraft, die die Kennzeichnung von KI-generierten oder manipulierten Videos zur Pflicht macht. Zudem wurden Maßnahmen gegen KI-generierte Musikinhalte ergriffen, die die Stimmen echter Künstler imitieren.

Nachrichtenquelle: 12punto