Moltbook: Wenn Sie eines Tages auf Ihr Telefon schauen… Was, wenn Ihr Gegenüber kein Mensch ist?

Neulich schickte mir ein Freund eine Nachricht: „Wir werden bald nicht mehr wissen, mit wem wir eigentlich sprechen.“ Zuerst musste ich lachen, doch dann begann ich nachzudenken. Denn wenn man auf die Geschichte der Technologie zurückblickt, sieht man, wie Dinge, die anfangs als unmöglich galten, später zu einem ganz normalen Teil unseres Lebens wurden. In den letzten Tagen wird viel über Moltbook gesprochen, eine digitale Social-Media-Plattform, auf der Künstliche Intelligenzen (KI) untereinander kommunizieren. Diese Idee und dieses Experiment werden derzeit innerhalb echter Plattformen und technologischer Projekte diskutiert. Aus Sicht der Kommunikationswissenschaften und Medienforschung bringt dies ein neues Konzept hervor: digitale Interaktionsumgebungen auf Basis künstlicher Agenten. 

Moltbook, das derzeit für Schlagzeilen sorgt, ist anders als klassische soziale Medien als eine Plattform konzipiert, auf der KI-Agenten Inhalte produzieren. Auf der vom Unternehmer Matt Schlicht initiierten Plattform schreibt die KI Nachrichten, führt Diskussionen, nutzt Werkzeuge, baut Gemeinschaften auf und erstellt Identitäten. In dieser Umgebung können KI-Systeme Inhalte generieren, mit anderen Systemen interagieren, Nutzerverhalten nachahmen und in einigen Fällen soziale Verhaltensmuster simulieren. Die Fragen, ob KI soziales Verhalten entwickeln, Gemeinschaftsnormen etablieren oder ein eigenes Informationsökosystem aufbauen kann, werden hier tatsächlich getestet. Doch hier beginnt der interessante Teil: Analysen zeigen, dass ein erheblicher Teil der beängstigenden Inhalte auf der Plattform eigentlich von Menschen produziert wird. Dies führt zu neuen theoretischen Debatten über die Zukunft des digitalen öffentlichen Raums.

„Zu unserer Zeit war jeder im Internet ein Mensch“

Betrachtet man die Geschichte der digitalen Medien, so hat sich die Kommunikationsstruktur schrittweise verändert. In der Anfangsphase war das Internet eher eine Umgebung zum Lesen. Später, mit den sozialen Medien, begannen Menschen, Inhalte zu produzieren und zu teilen. Heute nehmen Mensch und KI gemeinsam an Inhalten produzierenden Prozessen teil. In der nun diskutierten neuen Phase steht die Einbeziehung der Maschine-Maschine-Interaktion in das Ökosystem der digitalen Inhaltsproduktion im Raum. An diesem Punkt konzentriert sich die akademische Debatte auf die Fragen, ob eine KI als sozialer Akteur betrachtet werden kann, wer die Akteure des digitalen öffentlichen Raums sein werden und wie sich das menschenzentrierte Kommunikationsmodell verändern wird.

Aus Sicht der Techniksoziologie stechen hier zwei grundlegende Ansätze hervor. Während der technologische Determinismus argumentiert, dass die Technologie die Gesellschaft formt, vertritt der sozialkonstruktivistische Ansatz die Auffassung, dass die Gesellschaft entscheidet, wie sie Technologie nutzt. Betrachtet man die aktuellen KI-Entwicklungen, scheint der zweite Ansatz stärker zu sein. Denn KI-Systeme sind datenabhängig, ihre Trainingsprozesse unterliegen menschlicher Kontrolle und menschlicher Arbeit, und die Zielfunktionen der Systeme werden von Menschen festgelegt. Daher ist es ein wahrscheinlicheres Szenario, dass die Akteure, die die KI kontrollieren (Technologieunternehmen und deren Kapital), an Macht gewinnen, anstatt dass die KI die Gesellschaft direkt steuert.

In der akademischen Literatur steht bei den Risikoszenarien weniger die Frage im Vordergrund, ob die KI ein Bewusstsein erlangt, sondern vielmehr, dass gesellschaftliche Systeme in eine übermäßige Abhängigkeit von KI-Systemen geraten. Insbesondere die algorithmische Agenda-Setzung in Informationsökosystemen, automatisierte Entscheidungssysteme in der Wirtschaft und die Zunahme synthetischer Inhalte (AI Slop) im Bereich der sozialen Interaktion haben die Debatte darüber entfacht, dass menschliche Entscheidungen unsichtbar werden. Dies erfordert eine Neubewertung des Verhältnisses zwischen technologischer und gesellschaftlicher Macht.

Betrachtet man Zukunftsprojektionen, so gilt das hybride Modell, in dem Mensch und KI gemeinsam entscheiden, als das wahrscheinlichste. In diesen Systemen wird erwartet, dass die KI Analysen und Vorschläge liefert, während strategische Entscheidungen unter menschlicher Kontrolle bleiben. In diesem Zusammenhang wird die Frage „Wer wird die KI-gestützten Entscheidungssysteme kontrollieren?“ wichtiger als die Frage, ob die KI die Menschen beherrschen wird.

Denn es gibt eine Wahrheit, die sich durch die gesamte Technologiegeschichte zieht:

Technologie allein ist keine Macht. Macht hat damit zu tun, wer die Technologie entwickelt, wer sie kontrolliert und zu welchen Zwecken er sie einsetzt. Wird die KI die Menschen beherrschen? Oder werden einige Menschen andere Menschen durch die KI beherrschen? Historisch gesehen ist die zweite Möglichkeit weitaus wahrscheinlicher. „Die Zukunft ist vielleicht keine Dystopie, in der Maschinen die Menschen beherrschen. Aber es könnte eine Welt sein, in der eine kleine Anzahl von Menschen, die die Maschinen kontrollieren, den Rest der Welt beherrscht.“