Der Algorithmus, der mich falsch zeichnete

Kürzlich hat ein Student von mir ein Foto von mir im Internet gefunden. Ich stehe vor der Bosporus-Brücke und lächle in die Kamera. Er hat dieses Foto in eine Künstliche Intelligenz hochgeladen und sie gebeten, ein Bild von mir zu erstellen. Wahrscheinlich hat er auch erwähnt, dass ich Akademiker bin, denn ich wurde dargestellt, wie ich einen Stift in der Hand halte und etwas auf Papier schreibe. Das Ergebnis ist erstaunlich gut. Mein Gesicht sieht mir täuschend ähnlich, der Ausdruck passt, Licht und Details sind überzeugend. Er ließ es rahmen und schenkte es mir. Ich habe ihm für dieses schöne Geschenk gedankt. Doch als ich mir das Bild genauer ansah, bemerkte ich einen Fehler: Ich halte den Stift in der rechten Hand. Dabei bin ich Linkshänder und halte den Stift mit der linken Hand.

Da die Künstliche Intelligenz mich nicht so kannte, hat sie mich falsch gezeichnet.

Dieser kleine Fehler wirft eine große Frage auf: Warum hat die KI diesen Fehler gemacht und wie können wir ihn korrigieren?

Die erste Möglichkeit ist algorithmische Voreingenommenheit. KIs werden mit riesigen Datensätzen trainiert. In diesen Datensätzen benutzen die meisten Menschen ihre rechte Hand. Daher ist für das System ein Mensch, der einen Stift hält, standardmäßig rechtshändig. Die Minderheit der Linkshänder wird unsichtbar. Wie Safiya Noble gezeigt hat, repräsentieren Algorithmen die Welt nicht so, wie sie ist, sondern wie die Mehrheit der Daten sie darstellt.

Die zweite Möglichkeit ist ein Mangel an Informationen. Da die KI nicht genug Informationen über mich hatte, wählte sie das Wahrscheinlichste. Sie traf eine „educated guess“. Denn diese Systeme setzen die höchste Wahrscheinlichkeit mit der Realität gleich. An diesem Punkt bietet sich eine verlockende Lösung an: Algorithmen sollen uns besser kennenlernen. Sie sollen mehr Informationen über uns haben. Dann würden sie uns korrekter repräsentieren. Auf den ersten Blick scheint das keine schlechte Idee zu sein.

Doch genau hier stoßen wir auf die eigentliche Frage. Denn Wissen ist nicht unschuldig. Wie Foucault sagte, ist Wissen immer ein Machtverhältnis. Wie Zuboff betont, ist dieses Wissen heute der Rohstoff der Ökonomie der Verhaltensvorhersage und -steuerung.

Ein System, das mich korrekter zeichnen will, verwandelt sich mit der Zeit in ein System, das mich besser vorhersagt, besser steuert und besser verwaltet. Wie Langdon Winner sagte, sind technologische Systeme nicht nur Werkzeuge, sie setzen Normen. Der Mensch, der mit rechts schreibt, wird zur Norm. Die anderen sind die Ausnahme. Dies ist ein kleines, aber lehrreiches Beispiel für die epistemische Gewalt, die Spivak beschrieb. Manche Subjekte werden systematisch falsch oder gar nicht repräsentiert.

Das entstandene Bild ist eine Simulation. Wie Baudrillard sagte, spiegelt die Simulation nicht die Realität wider, sondern ersetzt sie. Ein Ich, das nicht ich ist, mir aber ähnlich sieht, gerät in Umlauf.

Und all dies erzeugt ein Risiko. Wie Beck sagte, ist dieses Risiko nicht extern, sondern liegt im System selbst.

Schließlich hat dieser Prozess eine emotionale Dimension. Der Wunsch, dass die KI uns korrekt repräsentiert, ist zugleich der Wunsch, richtig verstanden zu werden. Wie Papacharissi und Illouz gezeigt haben, sind auch Emotionen heute ein Bereich, der verwaltet und ausgebeutet wird.

Deshalb geht es bei der Sache nicht nur darum, mit welcher Hand ich den Stift halte.

Die Frage lautet:

Wie genau sollten Algorithmen uns kennen?

Ein Algorithmus, der mich falsch zeichnet, ist ärgerlich.

Aber ein Algorithmus, der mich perfekt zeichnet, ist gefährlicher.

Denn Perfektion ist der Ort, an dem die Distanz verschwindet.

Und manchmal ist Distanz sicherer als der Fehler.