Microsoft-Ingenieur reicht Beschwerde gegen das Unternehmen ein
Das generative KI-Projekt Copilot Designer von Microsoft hat bei internen Tests durch Ingenieure für Entsetzen gesorgt, da es obszöne und absurde Bilder erzeugte. Während die Integration von Copilot Designer in Windows 11 geplant ist, verdeutlicht dieser Vorfall, dass die KI noch nicht ausgereift ist und durch Altersbeschränkungen reguliert werden sollte.
12punto
Die von Microsofts Copilot Designer erstellten nicht jugendfreien Inhalte bringen das Unternehmen in Bedrängnis.
Während Microsoft seine Arbeit an generativer künstlicher Intelligenz fortsetzt, sieht sich das Unternehmen mit einer neuen Herausforderung konfrontiert. Copilot, das kürzlich durch seine beeindruckenden Fähigkeiten Aufmerksamkeit erregte, steht in den USA in der Kritik. Der KI-Ingenieur von Microsoft, Shane Jones, hat bei der US-Handelsbehörde Federal Trade Commission (FTC) Beschwerde gegen die von Copilot Designer erzeugten Bilder eingereicht.
Jones hatte Microsoft zunächst intern auf die Probleme hingewiesen, jedoch keine Rückmeldung erhalten. Daraufhin brachte Jones den Fall vor die offizielle Behörde, die Federal Trade Commission. Grund für die Beschwerde war, dass Copilot Designer obszöne und verstörende Bilder generierte.
Copilot Designer soll in Kürze auf Geräten mit dem Betriebssystem Windows 11 verfügbar gemacht werden. Jones argumentiert jedoch, dass das KI-Tool einer genaueren Prüfung bedarf. Während sogenannter Red-Teaming-Tests stieß Jones auf einige beunruhigende Bilder. So wurden beispielsweise im Zusammenhang mit dem Recht auf Abtreibung Dämonen und Monster dargestellt, und bei anderen Eingaben entstanden Bilder von Kindern mit Waffen, Frauen sowie sexuelle Darstellungen.
Aus diesem Grund forderte Jones eine Altersbeschränkung für Microsoft Copilot. Der Ingenieur hatte den Sachverhalt bereits im Dezember an Microsoft gemeldet, jedoch keine positive Antwort erhalten. Schließlich wandte sich Jones an US-Senatoren und schrieb einen Brief an die Federal Trade Commission, um seine Beschwerde offiziell zu machen.
Der Ingenieur betonte, dass für Microsoft Copilot Designer Altersbeschränkungen eingeführt werden sollten, ähnlich wie bei Google- und Android-Plattformen.