Wir müssen uns das Denken beibringen, bevor wir es von Maschinen erwarten

Die Systeme, die wir heute nutzen, heißen GAI – Generative AI. Also generative künstliche Intelligenz. Schon diese Bezeichnung flüstert uns zu, was wir von ihr erwarten sollten: Dass sie produziert. Nicht, dass sie denkt.

Die Grundlage von GAI-Modellen sind große Sprachmodelle (LLM). Das heißt, es sind Systeme, die aus riesigen Textmengen im Internet Muster extrahieren und auf Basis dieser Muster Antworten generieren. Deep Learning, Transformer-Architekturen, Milliarden von Parametern… Doch hinter all dieser technischen Pracht verbirgt sich eigentlich ein einfaches Ziel: Vorhersagen treffen.

Welches Wort kommt als Nächstes?

Wie geht dieser Satz weiter?

Wie sieht ein Text basierend auf diesem Muster aus?

Das ist es. Kein Denken. Kein Hinterfragen. Nur Muster.

----

Apple hat uns diese Wahrheit mit dem Artikel „The Illusion of Thinking“, der kurz vor der WWDC veröffentlicht wurde, vor Augen geführt. Sie haben eine Testumgebung geschaffen, die zeigt, dass Modelle wie GPT, Claude oder Gemini nicht „denken“.

Logikrätsel mit drei Schwierigkeitsstufen:

• Einfach: Die Modelle glänzen.

• Mittel: Die Verlangsamung beginnt.

• Schwer: Alle scheitern.

Doch es geht nicht nur um schwierige Fragen. Noch frappierender ist Folgendes:

Apple hat diesen Modellen sogar die Lösungsalgorithmen mitgegeben.

Sie sagten also: „Löse es so.“

Dennoch konnten sie es nicht lösen.

Ein Modell, das beim Turm von Hanoi 100 Züge ausführte, stolperte beim Flussüberquerungsrätsel bereits nach 3 Zügen.

Denn das eine war im Trainingsdatensatz enthalten, das andere nicht.

-----

Was dieses Experiment zeigt, ist simpel, aber erschütternd:

Die heutigen GAI-Systeme leben nach wie vor im Auswendiggelernten.

Sie produzieren hervorragend auf Basis von Gelerntem – aber sie können diese Grenze nicht überschreiten.

Und deshalb hat sich, auch wenn wir sie als „intelligent“ wahrnehmen, unsere Erwartungshaltung eigentlich verändert.

Wir haben sie nicht gebeten zu denken. Wir haben sie gebeten zu produzieren.

Deshalb sind ihre heutigen Erfolge innerhalb ihrer eigenen Grenzen legitim.

Doch jenseits dieser Grenze bleibt es dunkel.

-----

Ein System, das wie ein Mensch denkt, hinterfragt, abstrahiert und über das Muster hinausgeht…

Also AGI – Künstliche Allgemeine Intelligenz – ist nach wie vor ein Forschungstraum.

Am Horizont ist sie noch nicht in Sicht.

Doch dieser Traum ist umso wertvoller, da er die Defizite der heutigen Modelle aufzeigt.

Denn diese Arbeit von Apple deutet nicht nur darauf hin, was die heutige KI nicht ist, sondern auch, was sie bräuchte, um es zu werden.

-----

Eine gute Imitation kann für eine gewisse Zeit die Realität ersetzen.

Doch in Grenzsituationen unterscheiden sich Realität und Simulation.

Was wir heute haben, ist generativ.

Aber es denkt nicht.

Und ein System, das nicht denkt, kann nicht einmal so tun, als würde es sich irren.

Es verstummt einfach, sobald das Muster unterbrochen wird.

Vielleicht liegt deshalb die wahre Intelligenz immer noch bei uns.

Und vielleicht sollten wir uns, solange noch Zeit ist, das Denken beibringen, bevor wir es von Maschinen erwarten.