Googles KI-Assistent sorgt bei dem Versuch, Rassen- und Geschlechterklischees zu überwinden, für Kontroversen!

Googles Künstliche Intelligenz Gemini hat bei dem Versuch, Rassen- und Geschlechterklischees zu überwinden, Bilder generiert, die zu einigen Kontroversen führten. Aus diesem Grund hat Google das Tool zur KI-Bildgenerierung vorübergehend abgeschaltet, bis das Problem gelöst ist.

Google hat mit seiner Gemini-KI für einige Diskussionen gesorgt. Während das Unternehmen daran arbeitete, ein gleichberechtigteres und inklusiveres System zu schaffen, stieß es insbesondere durch die Darstellung von Figuren wie einem schwarzen britischen König auf Kritik. Derzeit wurde die Bildgenerierungsfunktion des KI-Tools deaktiviert, um die Probleme zu beheben.

In einer Erklärung auf dem X-Account von Google hieß es: "Wir arbeiten daran, die jüngsten Probleme mit der Bildgenerierungsfunktion von Gemini zu beheben. Während wir dies tun, werden wir die Generierung von Bildern von Personen pausieren und in Kürze eine verbesserte Version veröffentlichen." Derzeit werden Nutzer, die Bilder mit Personen erstellen möchten, darüber informiert, dass sich die Funktion in der Entwicklungsphase befindet und bald wieder verfügbar sein wird.

We're already working to address recent issues with Gemini's image generation feature. While we do this, we're going to pause the image generation of people and will re-release an improved version soon. https://t.co/SLxYPGoqOZ

— Google Communications (@Google_Comms) February 22, 2024

Google hatte sich bereits zuvor für "Ungenauigkeiten bei der Erstellung einiger historischer Bilder" entschuldigt. Das Unternehmen räumte ein, dass seine Bemühungen, mit der Gemini-KI Bilder in einem breiten Spektrum zu generieren, das Ziel verfehlt hätten.

Gemini AI war dafür kritisiert worden, historische Figuren mit unterschiedlichen ethnischen Hintergründen darzustellen. Es wird angenommen, dass dieses Problem mit dem Versuch des Systems zusammenhängt, bestehende rassistische Vorurteile zu korrigieren.

Google erklärte, man sei sich dieser Probleme bewusst und arbeite daran, die Definitionen zu verbessern. Mit der kürzlichen Einführung des Bildgenerierungsdienstes in der Gemini-KI, die früher als Bard bekannt war, hatte Google eine Lücke zu seinen Konkurrenten geschlossen. Nutzer stellten jedoch fest, dass die KI bei dem Versuch, rassistische und geschlechtsspezifische Unterschiede einzubeziehen, bei historischen Figuren nicht erfolgreich war.

Die Kritik kam nicht nur von rechtsextremen Gruppen; ein ehemaliger Google-Mitarbeiter erklärte sogar, dass es bei der Gemini-KI "peinlich schwierig sei, anzuerkennen, dass auch Weiße existieren".

Gemini stieß auf ähnliche Probleme, als es versuchte, Bilder von Menschen aus Ländern zu generieren, deren Bevölkerung mehrheitlich weiß ist.

Hier sind die Ergebnisse, die für Diskussionen sorgten: