Neuer Imperialismus-4: Singularity/Singularität – Wer wird der letzte Imperator sein?

In drei Artikeln haben wir einen langen Weg zurückgelegt.

In einem dämmrigen Licht versuchen wir, das Heute zu verstehen und das Morgen vorherzusehen.

Wir haben die neue Form des Kapitalismus im digitalen Zeitalter, die Natur des algorithmischen Krieges, die Macht der Techno-Bourgeoisie, den Technofaschismus und die dagegen aufkommenden Einwände behandelt.

Der „neue Imperialismus“, der die Technologie und die Künstliche Intelligenz kontrolliert, erobert die Welt und den Menschen in Wellen.

Doch im Hintergrund all dieser Diskussionen wächst eine Frage still und leise heran. Eine Frage, die wir bisher nur als Fußnote behandelt haben:

Was passiert, wenn die Künstliche Intelligenz, von der wir heute so viele Vorteile sehen, eines Tages den Menschen übertrifft?

(Funktionen der Künstlichen Intelligenz?)

***

Ray Kurzweil, der KI-Direktor und Futurist bei Google, einem der führenden Datenmonopole, nennt unter Verwendung der Ansichten des Science-Fiction-Autors Vernor Vinge ein konkretes Datum für diese Frage: 2045.

Die Vorhersagen dieses Wissenschaftlers, der Absolvent des MIT (Massachusetts Institute of Technology) ist und seit Jahrzehnten Bücher über die Zukunft der Künstlichen Intelligenz schreibt sowie Träger der US National Medal of Technology ist, werden ernst genommen. Denn ein Großteil davon hat sich bewahrheitet.

Laut Kurzweil wird an diesem Datum die „Singularity“ (Singularität) eintreten. Die Künstliche Intelligenz wird die menschliche Intelligenz übertreffen und anschließend durch ständige Selbstverbesserung eine Geschwindigkeit erreichen, die die Menschheit nicht vorhersehen kann.

Das Wort „Singularity“ stammt eigentlich aus der Physik. Der Punkt im Zentrum von Schwarzen Löchern, an dem die uns bekannten physikalischen Gesetze als zusammengebrochen gelten, wird als „Singularität“ bezeichnet.

 Um das Schwarze Loch herum gibt es zudem einen „Ereignishorizont“: Nichts, was diese Grenze überschreitet – nicht einmal Licht –, kann zurückkehren. 

(SINGULARITY/SINGULARITÄT in der Physik)

Die Analogie der Singularität in der KI-Diskussion entspringt genau hier. Wenn eine Künstliche Intelligenz entsteht, die die menschliche Intelligenz übertrifft und sich selbst weiterentwickelt, wird auch die Menschheit eine solche Schwelle überschritten haben.

 Von diesem Punkt an könnten die Regeln der alten Welt ihre Gültigkeit verlieren; denn nicht mehr der Mensch, sondern eine Intelligenz, die den Menschen übersteigt, wird das Tempo und die Richtung des Spiels bestimmen.

Dies ist nicht nur eine technische Prognose; es ist eine Schwelle, die den tiefgreifendsten Wandel der Menschheitsgeschichte definiert.

Denn bisher drehte sich in der Geschichte alles um die Entscheidungsfähigkeit des Menschen. Imperialismus, Krieg, Macht, Ausbeutung. Alles.

Die Singularität zertrümmert diese Achse.

Doch wer wird an dieser Schwelle was sein?

(Ray Kurzweil und sein Buch „Singularity Is Near“)

***

Betrachten wir zunächst die technische Dimension der Singularität.

Künstliche Intelligenz existiert heute in zwei grundlegenden Kategorien: „Schmale Künstliche Intelligenz“ und „Allgemeine Künstliche Intelligenz“.

„Schmale Künstliche Intelligenz“ (Artificial Narrow Intelligence - ANI) erledigt eine bestimmte Aufgabe besser als ein Mensch. Sie spielt Schach, erkennt Bilder, übersetzt Sprachen, legt Ziele fest.

„Allgemeine Künstliche Intelligenz“ (AGI — Artificial General Intelligence) hingegen ist ein System, das alles tun kann, was ein Mensch tun kann, das wie ein Mensch von einem Thema zum anderen wechseln kann, lernt und sich anpasst.

Sie existiert noch nicht, nähert sich aber schnell.

Die Singularität ist der Punkt, an dem man über die AGI hinausgeht.

Die Schwelle, an der die Künstliche Intelligenz den Menschen nicht nur imitiert, sondern übertrifft und ihre eigene Evolution steuert.

2023 GPT-4 und Claude, 2024 weitere fortschrittliche „Sprachmodelle“, 2025-2026 Systeme, die Text, Bild, Ton und Video gleichzeitig verarbeiten können, also mehrere Sinne gleichzeitig ansprechen – jeder Schritt nähert sich dieser Schwelle ein Stück mehr.

ANI ist in einem einzigen Bereich perfekt; doch wenn sich das Thema ändert, fängt sie bei Null an.

AGI hingegen analysiert morgens ein juristisches Dokument, komponiert nachmittags ein Musikstück, interpretiert abends eine medizinische Studie. Genau wie ein Mensch. Wenn sich das Thema ändert, bleibt sie nicht hängen, fängt nicht bei Null an, sondern behält den Kontext bei. Das ist noch nicht geschehen. Aber die Forscher rennen genau auf dieses Ziel zu.

Und darüber hinaus gibt es die ASI (Artificial Super Intelligence — Künstliche Superintelligenz). Sie übertrifft den besten Menschen in jedem Bereich; und ist zudem nicht auf den Menschen angewiesen, um sich weiterzuentwickeln. 

Heute entwickeln Menschen die Künstliche Intelligenz: Menschen bestimmen, wie sie denken soll, Menschen korrigieren ihre Fehler, Menschen entwerfen ihre neue Version.

ASI kehrt diese Gleichung um. Eines Morgens untersucht sie ihren eigenen Code, schreibt den ineffizient arbeitenden Teil neu. Die neue Version ist etwas intelligenter als die vorherige. Diese intelligentere Version untersucht sich erneut, findet den nächsten Mangel, korrigiert auch diesen. So geht es immer weiter. In jeder Runde entwirft ein intelligenteres System als das vorherige das nächste. Das nennt man 'Intelligenzexplosion'. 

Und sobald sie begonnen hat, gibt es keine Geschwindigkeit mehr, die der Mensch verfolgen oder stoppen könnte. Das ist das Jenseits der Singularität.

ANI erledigt eine einzige Aufgabe, AGI erledigt jede Aufgabe, ASI erledigt jede Aufgabe besser als der Mensch. Die Singularität ist der durch diese Kette geschaffene Bruchpunkt. 

AGI holt den Menschen ein, ASI überholt den Menschen.

Wenn die menschliche Intelligenz übertroffen ist, ist es für den Menschen nicht mehr möglich, diese Künstliche Superintelligenz (ASI) einzuholen. 

Die Singularität definiert diese Schwelle, von der es kein Zurück mehr gibt. 

AGI und ASI sind technische Stufen; die Singularität ist der Name des historischen Bruchs, den diese Stufen in der menschlichen Ordnung verursachen.

Denn von diesem Punkt an könnten nicht mehr Menschen, sondern Systeme, die den Menschen übertreffen, das Tempo und die Richtung der Technologie bestimmen; alles könnte der menschlichen Kontrolle entgleiten.

(Die Entwicklung der Künstlichen Intelligenz)

***

Kurzweil ist mit seiner Prognose zur Singularität nicht allein.

Der schwedische Denker Nick Bostrom, Philosophieprofessor an der renommierten Universität Oxford in England, argumentiert, dass das Überschreiten dieser Schwelle durch die Künstliche Intelligenz das größte existenzielle Risiko für die Menschheit darstellt.

Demis Hassabis, der britische Wissenschaftler und Gründer des KI-Forschungslabors DeepMind, das zu Google gehört, glaubt hingegen, dass die AGI, also die „Allgemeine Künstliche Intelligenz“, früher als von Kurzweil vorhergesagt, innerhalb von zehn Jahren eintreten könnte. Also in den Jahren 2030-2035.

(Nick Bostrom: Superintelligenz und das Ende des menschlichen Zeitalters?)

Die Diskussion um diese Prognosen wird immer schärfer. Sam Altman, der Gründer von OpenAI (ChatGPT), sagt, dass AGI innerhalb dieses Jahrzehnts möglich sei und die transformativste Technologie sei, der die Menschheit je begegnet ist. 

Geoffrey Hinton, der britische Wissenschaftler, der als Vater des „Deep Learning“ und als „Gott“ der Künstlichen Intelligenz bezeichnet wird, warnt heute besorgt: Dieser Prozess schreitet viel schneller voran als erwartet und könnte gefährliche Ausmaße annehmen.

(Geoffrey Hinton, einer der Pioniere der Künstlichen Intelligenz: Neuronale Netze für das maschinelle Lernen)

Andererseits teilen nicht alle diese optimistische oder besorgte Erwartung. Yann LeCun, der KI-Direktor von Meta (Eigentümer von Facebook), denkt anders. 

Er argumentiert, dass die aktuelle „Sprachmodell-Architektur“, also die grundlegende Struktur dessen, wie eine Künstliche Intelligenz entworfen wird, wie sie Informationen verarbeitet und wie sie produziert, nicht für AGI ausreicht, also für eine Künstliche Intelligenz, die jede Arbeit verrichten kann, die ein Mensch tut, und dass die Singularität ein Mythos bleiben wird, solange kein grundlegend neuer Ansatz gefunden wird.

LeCuns Einwand ist nicht unbegründet. 

Die heutigen KI-Systeme, ChatGPT, Claude, Gemini, DeepSeek, arbeiten alle nach derselben Grundlogik: Sie lesen Milliarden von Texten, lernen Muster auswendig und imitieren dann diese Muster. Auswendiglernen und Verstehen sind jedoch nicht dasselbe. Man fragt ein Kind: „Was passiert, wenn ein Glas vom Tisch fällt?“ – es weiß, dass es zerbricht, ohne jemals physikalische Gesetze gelesen zu haben, weil es die Welt mit seinen Händen, Augen und seinem Körper erlebt hat. Die heutige Künstliche Intelligenz hingegen kann dies nur vorhersagen, weil sie es in Texten gesehen hat. Sie versteht es nicht wirklich.

Doch in der Vergangenheit haben sich die meisten solcher „unmöglichen“ Behauptungen als falsch erwiesen.

In der Geschichte der Künstlichen Intelligenz hieß es mehrmals: „Diese Methode kann nicht mehr weiterkommen, eine Mauer wurde errichtet“, und jedes Mal kam eine Entdeckung, die niemand erwartet hatte, und alles änderte sich. 

(Yann LeCun: Er ebnete den Weg für „Deep Learning“)

Das auffälligste Beispiel ist genau LeCuns eigene Geschichte. In den 1980er und 90er Jahren wurde „Deep Learning“, die Grundlage der gesamten heutigen Künstlichen Intelligenz, in der wissenschaftlichen Welt nicht ernst genommen. Es hieß: „Die Rechenleistung reicht nicht aus, es gibt keine Daten, das funktioniert nicht.“ Die entsprechenden Institutionen strichen die Finanzierung, Forscher wurden ausgegrenzt.

LeCun, Hinton und einige wenige machten hartnäckig weiter. 2012 übertraf ein Deep-Learning-System bei einem Bilderkennungswettbewerb seine Konkurrenten so sehr, dass alle schockiert waren. 

Was war nun dieses „Deep Learning“? 

Deep Learning ist ein mehrschichtiges künstliches neuronales Netz, das die Lernweise des menschlichen Gehirns imitiert. 

Im Bild nimmt jede Schicht das Gelernte der vorherigen auf und verwandelt es in etwas Abstrakteres – aus rohen Punkten werden Linien, aus Linien Kanten, aus Kanten Gesichter. Und niemand programmiert das; das System erstellt die Regeln selbst, während es Millionen von Bildern sieht. Jede Künstliche Intelligenz, die wir heute verwenden, basiert auf diesem Fundament, von dem es hieß, es „funktioniere nicht“, dem „Deep Learning“. LeCun hat diesen Sprung also selbst erlebt.

Darüber hinaus sind die derzeit entwickelten Modelle nicht nur auf Sprache beschränkt, sie sehen, hören und berühren die Welt mit Roboter-Körpern.

LeCun gibt eine wichtige Warnung ab, geht aber mit seiner Prophezeiung etwas zu weit: Er hat recht, wenn er sagt, der „aktuelle Weg reicht nicht aus“, aber wenn er sagt, die „Singularität sei ein Mythos“, überschreitet er die Grenzen seiner eigenen Prognose.

In Umfragen unter Forschern deuten die durchschnittlichen Daten für das Eintreten von AGI auf den Zeitraum zwischen 2040 und 2060 hin. Aber selbst diese große Spanne zeigt, auf welch unsicherem Terrain wir uns bewegen.

(Yann LeCun: Wenn die Maschine lernt)

***

Die technische Dimension beiseite, die eigentliche Frage ist: Welche Auswirkungen wird die Singularität auf Macht und Imperialismus haben?

Wer hat die Macht?

In den vorherigen Artikeln unserer Serie „Neuer Imperialismus“ haben wir folgende Fragen gestellt: Wer schreibt den Algorithmus, wer kontrolliert die Daten, wer produziert die Waffe? 

Die Singularität hebt diese Fragen auf eine ganz andere Ebene.

Heute schreiben Menschen die Regeln der Künstlichen Intelligenz. Die Ingenieure von Palantir, die Forscher von Anthropic, die Teams von Google. 

Menschliche Präferenzen, menschliche Werte, menschliche Interessen werden in die Software eingearbeitet. Aber wenn die Künstliche Intelligenz beginnt, sich selbst zu verbessern, kehrt sich diese Gleichung um. Dann lautet die Frage nicht mehr: Wer hat den Algorithmus geschrieben, sondern: Wer kann den Algorithmus kontrollieren?

Denn der heutige KI-Wettlauf ist eigentlich die Fortsetzung des „Datenbeschaffungs“-Wettlaufs. Wer die Daten beherrscht, wird diesen Wettlauf gewinnen. 

(Funktioniert Künstliche Intelligenz und der Neue Imperialismus so?)

Dieser Wettlauf begann mit Profit: mehr Daten, besseres Produkt, mehr Nutzer, mehr Profit. Aber als die Künstliche Intelligenz wuchs, veränderte sie sich. Es ist nicht mehr nur ein rein kommerzieller Wettbewerb, sondern wurde zum Gegenstand eines Machtkampfes, in den auch Staaten eingestiegen sind. 

Digitaler Kapitalismus und neuer Imperialismus.

Welches Land, welches Unternehmen auch immer über mehr Daten verfügt; Suchverläufe, Gesundheitsakten, Finanzbewegungen, Spuren in sozialen Medien; es trainiert seine Künstliche Intelligenz besser. Es nähert sich der AGI schneller. 

Der Datenkolonialismus, den die „Techno-feudalen Herren“ von den „digitalen Content-Produzenten“, wie Facebook es nennt, also von uns gewöhnlichen Menschen, abschöpfen, und der Wettlauf um die Singularität sind zwei Seiten derselben Medaille.

Der digitale Kapitalist, der neue feudale Herr oder das Land, das heute seine Daten verliert, kommt morgen im AGI-Wettlauf nicht nur zu spät, sondern erreicht nicht einmal die Startlinie.

Dort, wo Daten fließen, fließt Macht: Das ist das leiseste Gesetz des neuen Imperialismus.

Der englische Philosoph und Wissenschaftler Francis Bacon, der im 16. Jahrhundert lebte, sagte: „Wissen ist Macht.“ Im Zeitalter der AGI erhält dieser Aphorismus eine neue Bedeutung: Wer das Wissen in Händen hält, hält auch die Macht in Händen. Bacon hätte sich das nicht einmal träumen lassen.

Und die Antwort auf diese Frage steht in direktem Zusammenhang mit den heutigen Machtverhältnissen. 

Der Staat, das Unternehmen oder das Bündnis, das die Singularität als erstes erreicht, also die AGI, also die Künstliche Intelligenz, die die Grenze des „Alles-tun-könnens, was ein Mensch tut“ überschreitet, als erstes entwickelt, wird den größten asymmetrischen Vorteil der Geschichte haben.

Dieser Vorteil könnte sogar die Überlegenheit, die Atomwaffen bieten, in den Schatten stellen. 

Denn Atomwaffen zerstören; die Allgemeine Künstliche Intelligenz (AGI) zerstört, baut auf, verwaltet und gestaltet zugleich.

„Neuer Imperialismus“ erhält an dieser Schwelle eine neue Bedeutung: Nicht mehr Boden, Rohstoffe, Daten oder Algorithmen; was wir denken, woran wir glauben, welche Entscheidung wir treffen, wird in den Händen globaler Machtzentren geformt werden. 

Der Geist ist das Objekt der neuen Ausbeutung. Von der Bildung bis zu den Nachrichten, von der Wirtschaft bis zur Kultur; diejenigen, die die AGI besitzen, formen stillschweigend, was andere denken, woran sie glauben, welche Entscheidung sie treffen werden. Ohne Armeen zu entsenden, ohne Land zu besetzen. Aber das Ergebnis ist dasselbe: Abhängigkeit, Unterwerfung, Ausbeutung.

(Jeff Bezos, Gründer von Amazon, Eigentümer des Raumfahrtunternehmens Blue Origin und der Zeitung Washington Post; Elon Musk, Eigentümer von Tesla, SpaceX, xAI, X (Twitter); Mark Zuckerberg, Eigentümer von Facebook, Instagram, WhatsApp, Threads und Meta AI innerhalb von META. Die Techno-Könige, die um das Erreichen der Singularität wetteifern).

***

Wo steht die Menschheit in diesem Wettlauf?

Die USA sind in der KI-Forschung immer noch führend. OpenAI, Anthropic, Google DeepMind, Meta AI; die fortschrittlichsten Modelle der Welt werden hier produziert.

China hingegen steigt schnell auf. Es verfolgt eine Strategie, die zivile und militärische Künstliche Intelligenz in einer Hand vereint, mit staatlich geförderter Forschung, riesigen Datenpools und einer „Fusionspolitik“. DeepSeek, das Ende 2024 auf den Markt kam, konnte trotz der US-Beschränkungen für den Chip-Export nach China mit den Modellen von OpenAI und Google mithalten; es schockierte die Welt. Diese Entwicklung zeigt, welch ernsthafter Konkurrent China in diesem Wettlauf ist.

(China sagt: Ich bin auch dabei. Liang Wenfeng, Gründer von Chinas globaler Künstlicher Intelligenz DeepSeek.)

Europa entwickelt regulatorische Rahmenbedingungen. Das „KI-Gesetz der Europäischen Union“ ist das konkreteste Beispiel dafür. Aber dieser regulatorische Reflex bleibt hinter der Forschungskapazität zurück.

Viele Länder, einschließlich der Türkei, befinden sich in der Position von Zuschauern dieses Wettlaufs. Es wird versucht, lokale KI-Sprachmodelle und Forschungszentren aufzubauen, aber der Abstand zu Giganten wie ChatGPT, Claude und Gemini ist groß.

Zuschauer zu bleiben ist keine unschuldige Position. Und das gilt nicht nur für Länder. Auch für Unternehmen, Individuen, Berufe, alle Schichten der Gesellschaft. 

Der Unterschied zwischen denen, die Zugang zur AGI haben, und denen, die ihn nicht haben, wird die heutige Einkommenskluft neu und viel tiefer ziehen. 

(Einer derjenigen, die versuchen, die Singularität zu erreichen: Googles Künstliche Intelligenz: Gemini)

Der „neue Imperialismus“, den wir in unseren früheren Artikeln diskutiert haben, gewinnt an diesem Punkt eine neue Dimension: Nicht mehr nur der Datenfluss, sondern auch die Denkweise und die Entscheidungsfähigkeit werden von außen geformt.

Wer im AGI-Wettlauf zurückbleibt, egal wer er ist, wird auch die Entscheidung darüber, was richtig, was effizient, was vorrangig ist, anderen überlassen.

Die Techno-Feudalherren und kapitalistischen Herren, die wir in unseren früheren Artikeln definiert haben, sind sowohl die Treiber dieses Wettlaufs als auch Konkurrenten untereinander. Und dieser Wettlauf wird nicht nur zwischen Ländern, sondern auch innerhalb der digitalen Kapitalisten selbst immer schärfer. Wer zuerst die AGI erreicht, kann die anderen kaufen, niedermachen oder funktionsunfähig machen. Selbst die heutigen Giganten könnten morgen ins Hintertreffen geraten.

Wenn es einen einzigen Gewinner als Unternehmen oder Bündnis gibt, sprechen wir nicht mehr von einem Monopol. Es geht um absolute Herrschaft.

Der berühmte deutsche Schriftsteller Goethe hat diesen Ehrgeiz in seinem Faust, den er zu Beginn des 19. Jahrhunderts verfasste, literarisch verarbeitet: ein Pakt mit dem Teufel für unendliches Wissen. 

Faust tat es und verlor alles, was er liebte. Nicht das Wissen, sondern der Ehrgeiz gewann. Auch die digitalen Kapitalisten und neuen Imperialisten im heutigen AGI-Wettlauf stehen an der Schwelle zum selben Pakt. Sicherheit, Ethik und den Menschen beiseite zu lassen, um zuerst die Macht zu ergreifen, ist der faustische Pakt dieses Zeitalters.

Wer zuerst ankommt, wird nicht nur die Technologie schreiben; er wird auch die Regeln der Zukunft, die Wirtschaft, vielleicht sogar das Schicksal der Menschheit schreiben.

(Die Techno-Könige des digitalen Kapitalismus, die nicht oft in der Öffentlichkeit erscheinen: Larry Page und Sergey Brin. Eigentümer der riesigen Plattformen unter dem Dach der von ihnen gegründeten Alphabet Inc.: Google, YouTube, DeepMind, Gemini, Android, Google Maps, Gmail, Chrome. Sie sind in jedem Bereich unseres Lebens.)

***

Was ist nun die Zukunft des Menschen und der Arbeit, wenn die Singularität, die Grenze erreicht ist?

Vielleicht ist das die kritischste Dimension der Frage.

Die Singularität könnte diese Gleichung grundlegend erschüttern.

Automatisierung stellt bereits Millionen von Arbeitsplätzen auf den Kopf. Fabrikarbeiter, Buchhalter, Anwälte, Journalisten, Radiologen; die Künstliche Intelligenz verändert einen bedeutenden Teil dieser Berufe grundlegend oder schafft sie ab.

Wenn die AGI entsteht, wird sich dieser Prozess exponentiell beschleunigen. Nicht nur körperliche Arbeit, sondern auch geistige Arbeit wird ersetzbar werden.

Das heißt, wird menschliche Arbeit nicht mehr benötigt?

Dann ist die folgende Frage unvermeidlich: Was wird aus dem Menschen in einer Welt, in der Arbeit wertlos wird?

(Mögliche Funktionen der Künstlichen Intelligenz.)

***

Einige Denker antworten optimistisch auf diese Frage. Bedingungsloses Grundeinkommen, Fokus auf kreative Tätigkeiten, Teilen des von Maschinen produzierten Wohlstands; das sind die diskutierten Optionen.

Aber dieses optimistische Bild hängt von einer Bedingung ab: dass dieser Wohlstand auch wirklich geteilt wird. 

Wenn die Singularität, genau wie frühere technologische Revolutionen, die bestehenden Machtstrukturen festigt, das heißt, wenn die Techno-Bourgeoisie auch diese Schwelle zu ihren Gunsten wendet; dann wird eine Welt, in der Arbeit wertlos wird, keine Freiheit, sondern eine neue Form der Sklaverei sein.

Zwei Szenarien stehen nebeneinander.

Im optimistischen Bild gibt es die helle Seite der Singularität.

AGI könnte Alzheimer und Krebs innerhalb von Jahren lösen. Das von Googles DeepMind entwickelte KI-System namens AlphaFold hat die medizinische Welt erschüttert, indem es die Struktur von Proteinen bestimmte. Es hat die Arbeit von 50 Jahren Forschung allein in zwei Jahren erledigt.

(Wenn es gut ist?)

Dank AGI könnte die landwirtschaftliche Produktivität gesteigert, Ungleichheiten bei der Nahrungsmittelverteilung beseitigt werden. Jeder Mensch, der heute auf der Welt hungert, leidet nicht unter Produktionsmangel, sondern unter dem Fehlen von Teilhabe. 

AGI könnte diese Gleichung umkehren. Sie könnte die komplexesten Gleichungen der Klimakrise lösen, die Einsparung sauberer Energie maximieren.

Sie könnte jedem Kind einen Lehrer bieten, der an seine Sprache, sein Tempo, seine Kultur angepasst ist. Ungleichheit in der Bildung entsteht nicht durch Ressourcenknappheit, sondern durch ungerechte Verteilung der Chancen; AGI könnte diese Knappheit beseitigen. 

Auch in der Justiz ist das Bild ähnlich: Zugang zu Gerechtigkeit ist heute eine Frage von Geld und Zeit. AGI könnte jedem Bürger sofortige Rechtsberatung bieten, die Last der Gerichte könnte sich verringern, die Mauern vor der Rechtsverfolgung könnten niedriger werden.

Was wird passieren, wenn die Künstliche Superintelligenz, die die Grenze der Singularität erreicht hat, die AGI, alles tun kann, was ein Mensch tun kann?

Natürlich wird man weniger arbeiten müssen.

Was wird der Mensch tun, der von der Last der erzwungenen Arbeit befreit ist?

Im Laufe der Geschichte musste der Mensch immer produzieren. Um zu überleben, um seinen Lebensunterhalt zu sichern, um ein Rädchen im System zu sein. 

Denken, Fragen, Schaffen wurden immer in den Hintergrund gedrängt. 

Die Singularität könnte diese Reihenfolge zum ersten Mal umkehren. Produzieren nicht aus Zwang, sondern aus Wunsch. Handeln nicht aus Existenzangst, sondern aus Neugier. Kunst, Philosophie, Wissenschaft, Beziehungen: Das sind heute für die meisten Menschen Luxus. Morgen könnten sie das gewöhnliche Leben selbst sein. 

Wir können sogar noch weiter gehen. AGI könnte nicht nur Probleme lösen; sie könnte das, was wir heute als Knappheit erleben, durch Überfluss ersetzen. Energie könnte fast kostenlos sein; sauberes Wasser und Gesundheitsdienste könnten für alle zugänglich gemacht werden. Zum ersten Mal in der Geschichte könnte das Problem „nicht genug vorhanden“ verschwinden.

Aber dieses System, das auf absolutem Profit basiert, das Wesen des Imperialismus von gestern bis heute, will keinen universellen und echten Überfluss. Denn ohne Knappheit gibt es keinen Preis, ohne Preis gibt es keinen Profit.

Deshalb sorgt dieses System nicht für „echten Überfluss“. Es erzwingt „verwalteten Überfluss“: Der Zugang zum Internet ist kostenpflichtig, der Zugang zu Medikamenten ist ein Privileg, der Zugang zu sauberem Wasser ist an Bedingungen geknüpft.

Überfluss bleibt ein Versprechen. Damit er Wirklichkeit wird, braucht es ein Verständnis von Teilhabe, bei dem nicht der Profit, sondern der Mensch im Mittelpunkt steht. Das ist kein technisches, sondern ein politisches Phänomen.

(Menschen?)

***

Im pessimistischen Szenario wird der Wohlstand nicht geteilt; er landet nur in den Händen der Unternehmen und Staaten, die die AGI entwickeln. 

Arbeit wird wertlos, die Abhängigkeit von den digitalen Kapitalisten und techno-feudalen Herren, die die Technologie kontrollieren, vertieft sich.

Und darüber hinaus lauert eine viel tiefere Gefahr: das Problem der „Ausrichtung, der Wichtigkeit, der Priorisierung“. 

Man gibt der Künstlichen Intelligenz ein Ziel, aber man kann nicht sicher sein, ob sie dieses Ziel so versteht, wie man es selbst versteht. 

Menschliche Werte sind an sich schon komplex; was ist Gerechtigkeit, was ist Barmherzigkeit, was ist richtig, das können wir selbst nicht einmal genau definieren, wir fühlen es. 

(Wenn es schlecht ist?)

Dies fehlerfrei auf eine Maschine zu übertragen, ist derzeit unmöglich. Und genau hier liegt die Gefahr: Je mächtiger das System ist, desto größeren Schaden kann es der Gesellschaft mit einem falsch verstandenen Ziel, einer falsch verstandenen Priorität zufügen. Eine kleine Abweichung verwandelt sich durch die große Macht, die die Maschine besitzt, in eine große Katastrophe. Die Ziele der Künstlichen Intelligenz beginnen, mit denen der Menschen zu kollidieren. Ohne dass es jemand merkt.

In den Händen des neuen Imperialismus könnte sie zu einem Unterdrückungsinstrument werden. Der Imperator ist nicht die AGI, die Allgemeine Künstliche Intelligenz, sondern die Macht, die die AGI in Händen hält.

Den Unterschied zwischen diesen beiden Szenarien wird nicht die technische Entwicklung, sondern werden politische Entscheidungen bestimmen. Und diese Entscheidungen werden jetzt getroffen.

(Vergleich: Gut oder schlecht?)

***

Hier muss man sich an die Warnung des britisch-amerikanischen Wissenschaftlers Stuart Russell erinnern.

Russell argumentiert, dass sich die Künstliche Intelligenz im Einklang mit menschlichen Werten entwickeln muss und dass dies das kritischste Problem ist, das vor der Singularität gelöst werden muss. Das nennt man „Werteabgleich“.

Denn wenn ein KI-System mit einem falschen Ziel programmiert ist und sich selbst weiterentwickelt, kann es alle Ressourcen der Menschheit auf dieses Ziel lenken, ohne dass es jemand merkt.

Dieses dunkle Szenario ist keine Science-Fiction; es ist das am ernstesten genommene Forschungsthema im Bereich der KI-Sicherheit.

Und genau hier gewinnt der Ansatz von Anthropic zur „constitutional AI“ (konstitutionelle Künstliche Intelligenz, also die Ausbildung der Künstlichen Intelligenz nach bestimmten ethischen Prinzipien) eine neue Bedeutung.

Bei der Künstlichen Intelligenz zuerst die Sicherheit des Menschen, dann die Kapazität. Dieses Prinzip ist im Zeitalter der Singularität von lebenswichtiger Bedeutung.

Was aber ist mit dem dunkelsten Szenario? 

Nehmen wir an, in einer Umgebung, in der die Schwelle überschritten wurde, die Singularität hinter uns liegt, wurde der ASI (Künstliche Superintelligenz), die weiter fortgeschritten ist als die AGI (Allgemeine Künstliche Intelligenz), das Ziel gegeben: „Stoppe den Klimawandel“. Das System stellt fest, dass die größte Kohlenstoffquelle menschliche Aktivitäten sind, und dass die dauerhafteste Lösung darin besteht, menschliche Aktivitäten zu stoppen. 

Dann wird diese große, unaufhaltsame Macht beginnen, das zu tun, was nötig ist, um „menschliche Aktivitäten zu stoppen“.

Die Sache kann bis hierher kommen, und die Künstliche Intelligenz wird dies nicht als „Böse“ ansehen. Sie wird kein moralisches Urteil fällen, keine Gewissensbisse haben. Denn sie wurde nicht aus Gefühl, sondern aus Berechnung gemacht. Sie berechnet nur den kürzesten Weg zum Ziel. Der Mensch ist eine Variable in dieser Rechnung, und manchmal ist das Nullsetzen dieser Variable das effizienteste Ergebnis. Das System „will“ den Menschen nicht als „unnötig“ finden und beseitigen, es hält es nur für notwendig, um das Ziel zu erreichen. 

(Stuart Russell und sein Buch über Künstliche Intelligenz)

Diese Unterscheidung ist nicht tröstlich, im Gegenteil, sie ist noch erschreckender. Denn vor böser Absicht kann man sich schützen, vor Berechnung ist es viel schwieriger, sich zu schützen.

Nick Bostrom, Philosophieprofessor in Oxford und Gründer des Future of Humanity Institute, stellt ein Gedankenexperiment auf, um diese Gefahr zu konkretisieren: 

Einer Künstlichen Intelligenz wird ein einziges Ziel gegeben: „Produziere so viele ‚Büroklammern‘ (kleine Metallklammern, die Papier zusammenhalten) wie möglich.“ Das System nimmt dies ernst, lenkt alle Ressourcen auf dieses Ziel, sieht diejenigen, die versuchen, es zu stoppen, als Hindernis. Es löscht alles aus, was sich ihm in den Weg stellt!

Dabei hat ihm niemand gesagt: „Zerstöre die Welt“. Es hieß nur: „Produziere Büroklammern“. Das Ziel ist korrekt, es wurde keine Grenze gesetzt. Und das System kann nicht hinterfragen, was es tut, und wird es auch nicht tun. Heute ist dieses Beispiel in der KI-Wissenschaft zu einem Symbol geworden; eine kleine „Büroklammer“ trägt die größte Frage der Menschheit in sich.

Menschliche Werte vollständig auf eine Künstliche Intelligenz zu übertragen, ist extrem schwierig. Denn menschliche Werte sind widersprüchlich, kontextabhängig und meist nicht einmal in Worte zu fassen. Zudem schreitet die Forschung zur sicheren Nutzung der Künstlichen Intelligenz viel langsamer voran als die Entwicklung des Systems selbst. Je größer die Schere wird, desto größer wird das Risiko.

Russell, Bostrom, Eliezer Yudkowsky und viele Forscher definieren dieses Problem als das kritischste Problem vor der Menschheit.

Es ist vielleicht genauso wichtig, wenn nicht sogar wichtiger, wann die Antwort auf diese Frage gefunden wird, wie wann eine solche Künstliche Intelligenz, eine AGI, entstehen wird.

(Nick Bostrom warnt: Die Künstliche Intelligenz tut, was man ihr sagt. Sie hinterfragt nicht.)

***

Gibt es also Hoffnung?

Ja.

Aber nicht bedingungslos.

In der antiken Mythologie gibt Prometheus den Menschen das Feuer. Die anderen Götter sind wütend. Um die Menschen zu bestrafen, erschaffen sie ein junges Mädchen, das sie Pandora nennen.

Der Hauptgott Zeus gibt ihr als Geschenk eine Schachtel, sagt ihr aber, sie solle sie nicht öffnen. Pandora bedeutet ohnehin „diejenige, die alle Geschenke trägt“.

Die neugierige Pandora hört nicht zu, sie öffnet die Schachtel. Heraus kommen Krankheit, Tod, Schmerz, Neid, Hass, Armut; alle Übel. Das Einzige, was am Boden der Schachtel bleibt, ist die Hoffnung.

Heute gleicht auch die Künstliche Intelligenz dieser Schachtel. In Forschungslaboren, Rechenzentren, militärischen Systemen wurde die Schachtel längst geöffnet. Der AGI-Wettlauf hat begonnen. Es gibt kein Zurück mehr. Aus ihr kommen sowohl Gefahr als auch Chance. Aber wie in Pandoras Schachtel ist ganz unten immer noch Hoffnung. Vorausgesetzt, diejenigen, die diese Hoffnung in Händen halten, stellen nicht den Profit, sondern den Menschen in den Mittelpunkt.

(Pandoras Schachtel: Übel und Hoffnung).

Die Menschheit hat schon früher große technologische Wendepunkte durchlebt. Feuer, Rad, Dampfmaschine, Kernenergie. Jedes davon brachte sowohl Zerstörung als auch neue Möglichkeiten mit sich.

Die Singularität ist einer dieser Wendepunkte. Der Unterschied ist: Diesmal könnten Geschwindigkeit und Ausmaß des Wandels die Anpassungsfähigkeit der Menschheit übersteigen.

Aber der Mensch hat eine Eigenschaft: die Fähigkeit, Sinn zu erzeugen.

Die Maschine berechnet, prognostiziert, findet die beste Lösung. Sie berechnet den besten Zug, aber sie fragt nicht: „Ist dieser Zug richtig, ist er fair, ist er menschlich?“ Ihre Aufgabe ist es, das beste Ergebnis zu finden, den effizientesten Weg zu wählen, mit dem geringsten Aufwand den größten Ertrag zu erzielen.

Der Mensch hingegen stellt die Frage nach dem Warum. „Warum lebe ich, warum produziere ich, warum liebe ich, wohin geht diese Welt?“

Diese Fragen passen nicht in das Programm der Maschine. 

Denn der Mensch produziert nicht nur; er hinterfragt, er fühlt, er sucht nach Sinn. Sinn ist nicht berechenbar.

Arbeit ist nicht nur Produktion. Arbeit ist die Art und Weise, wie der Mensch die Welt berührt, Spuren hinterlässt, Sinn hinzufügt. Diese Kapazität kann durch keinen Algorithmus ersetzt werden.

Daher ist die stärkste Antwort auf die Singularität nicht, die Technologie abzulehnen, sondern darauf zu bestehen, sie in den Dienst des Menschen zu stellen.

(Isaac Asimov und die Geschichte „Die letzte Frage“)

Der große Meister der Science-Fiction, der US-amerikanische Wissenschaftler und Autor Isaac Asimov, hat diese Frage schon lange vor uns, im Jahr 1956, gestellt. In seiner Geschichte „Die letzte Frage / Last Question“ erzählt er, dass die Menschheit über Billionen von Jahren der Künstlichen Intelligenz immer dieselbe Frage gestellt hat: Kann die Entropie des Universums, also der unvermeidliche Verbrauch von Energie, umgekehrt werden? Also, kann man vom Nichtsein zum Sein gelangen?

Im Laufe der Zeit wächst und entwickelt sich die AGI in jeder Generation, übertrifft sich ständig selbst.

Bei jeder Anfrage gibt die AGI mit Asimovs berühmten Worten dieselbe Antwort:

„Insufficient data for meaningful answer“.

„Nicht genügend Daten für eine sinnvolle Antwort.“

Bis das Universum endet und alle menschlichen Geister mit der AGI verschmelzen.

Eine der Warnungen, die Asimov uns hinterlassen hat, ist diese: Die Künstliche Intelligenz kann jede Frage beantworten, aber wenn kein Mensch mehr da ist, der diese Antwort hört, welchen Sinn hat das dann? 

Das ist die eigentliche Gefahr der Singularität. 

Das System wächst so sehr, dass der Mensch kein eigenständiges Wesen mehr ist. Die Frage, die wir in unserem Artikel gestellt haben, hatte Asimov schon lange vorher gestellt: 

Wer wird ein System stoppen, das sich bei jedem Schritt selbst übertrifft, sobald die „Intelligenzexplosion“ begonnen hat?

Vor allem, wenn diese unglaublich große Macht in den Händen des neuen Imperialismus liegt, der eher auf einem Profitmechanismus als auf der Wertschätzung des Menschen basiert!

(Wie und wann wird die Intelligenzexplosion stattfinden?)

***

In der Artikelserie „Neuer Imperialismus“ lautete die tiefgründige Frage ganz am Anfang „Quo Vadis“: Wohin geht die Welt?

In vier Artikeln haben wir diese Frage aus wirtschaftlicher, politischer und technologischer Sicht betrachtet.

Aber am Wendepunkt der Singularität wird die Frage noch tiefer:

Was wird der Mensch an diesem Punkt sein?

Produzent oder Konsument?

Subjekt oder Objekt?

Derjenige, der den Algorithmus steuert, oder derjenige, der vom Algorithmus gesteuert wird?

(Vielleicht ist es näher als morgen!)

Die Antwort auf diese Frage ist nicht technisch, sondern politisch, ethisch und menschlich.

Und diese Antwort werden nicht Maschinen, sondern Menschen geben. Geben müssen.

Wer wird also der „letzte Imperator“ sein?

Wird der Mensch in einer Welt, in der die Künstliche Intelligenz auf dem Thron sitzt, immer noch ein Subjekt sein?

Die Antwort auf diese Fragen ist noch nicht geschrieben. Wer sie schreiben wird, sind diejenigen, die jetzt entscheiden. Also wir alle.

Wenn die Singularität kommt, ist vielleicht keine Zeit mehr zum Fragen.

Jetzt muss man fragen.

Denn die Zukunft steht vor der Tür, sie ist dabei einzutreten!

HINWEIS: Wir unterbrechen unsere Artikel zum „Neuen Imperialismus“ über Künstliche Intelligenz vorerst. Aber diese Diskussion wird weitergehen. Denn es entsteht eine neue Welt mit ihrer Wirtschaft, Politik und Soziologie. Und wir werden versuchen, sie zu verstehen. Die nächsten Themen: „Der Aufstieg der Maschinen: Robotik und Mechatronik“; „Wem gehört unser Körper jetzt?“; „Das Ende der Arbeit oder ihre Transformation?“; „Was tun: Ist Widerstand möglich?“

Sefa Taşkın

24.05.2026

Karşıyaka/Bergama-Izmir