Die von Microsofts Copilot Designer erstellten nicht jugendfreien Inhalte bringen das Unternehmen in Bedrängnis.
Während Microsoft seine Arbeit an generativer künstlicher Intelligenz fortsetzt, sieht sich das Unternehmen mit einer neuen Herausforderung konfrontiert. Copilot, das kürzlich durch seine beeindruckenden Fähigkeiten Aufmerksamkeit erregte, steht in den USA in der Kritik. Der KI-Ingenieur von Microsoft, Shane Jones, hat bei der US-Handelsbehörde Federal Trade Commission (FTC) Beschwerde gegen die von Copilot Designer erzeugten Bilder eingereicht.
Jones hatte Microsoft zunächst intern auf die Probleme hingewiesen, jedoch keine Rückmeldung erhalten. Daraufhin brachte Jones den Fall vor die offizielle Behörde, die Federal Trade Commission. Grund für die Beschwerde war, dass Copilot Designer obszöne und verstörende Bilder generierte.
Copilot Designer soll in Kürze auf Geräten mit dem Betriebssystem Windows 11 verfügbar gemacht werden. Jones argumentiert jedoch, dass das KI-Tool einer genaueren Prüfung bedarf. Während sogenannter Red-Teaming-Tests stieß Jones auf einige beunruhigende Bilder. So wurden beispielsweise im Zusammenhang mit dem Recht auf Abtreibung Dämonen und Monster dargestellt, und bei anderen Eingaben entstanden Bilder von Kindern mit Waffen, Frauen sowie sexuelle Darstellungen.
Aus diesem Grund forderte Jones eine Altersbeschränkung für Microsoft Copilot. Der Ingenieur hatte den Sachverhalt bereits im Dezember an Microsoft gemeldet, jedoch keine positive Antwort erhalten. Schließlich wandte sich Jones an US-Senatoren und schrieb einen Brief an die Federal Trade Commission, um seine Beschwerde offiziell zu machen.
Der Ingenieur betonte, dass für Microsoft Copilot Designer Altersbeschränkungen eingeführt werden sollten, ähnlich wie bei Google- und Android-Plattformen.
Nachrichtenquelle: 12punto
