An Stelle von Sam Altman
Sam Altman argumentiert, dass der Arbeitsspeicher in PCs in Rechenzentren effizienter genutzt werden könnte. Sein Grund: Anstatt dass jeder Nutzer Speicher für die Ausführung von KI auf dem eigenen Rechner vorhält, sollten dieselben Ressourcen intensiver in der Cloud gebündelt werden.
Als ich diese Ansicht las, dachte ich sofort an die Variablen, die bei dieser Rechnung außer Acht gelassen wurden.
Es gibt derzeit keinen Speicherengpass, der uns dazu zwingen würde, auf lokale KI zu verzichten. Ich halte es für falsch, ausgehend von einem potenziellen zukünftigen Engpass die Lösung heute darin zu suchen, sämtliche Ressourcen in Rechenzentren zu konzentrieren. Woher wissen wir, dass die Produktion, das Speichermanagement, die Modelle und die Art der Datendarstellung unverändert bleiben werden?
Einer der häufigsten Fehler bei der Berechnung der technologischen Zukunft ist die Annahme, dass heutige Produktions- und Nutzungsmethoden statisch sind. Wenn mehr KI genutzt wird, wird mehr Speicher benötigt; also muss mehr Speicher produziert und in Rechenzentren untergebracht werden. Eine solche Rechnung lässt sich aufstellen. Wenn man jedoch alle dazwischenliegenden technischen Möglichkeiten ausschließt, steht das Ergebnis von vornherein fest.
Es könnte eine Speicherarchitektur entwickelt werden, die über herkömmliche Produktionsmethoden hinausgeht. Das Speichermanagement könnte sich ändern. Eine Komprimierungsmethode, die Daten platzsparender darstellt, könnte einen Teil der Kapazität, die wir heute für notwendig halten, überflüssig machen. Modelle könnten lernen, dieselbe Arbeit mit weniger Ressourcen zu erledigen. Die Auswirkungen jeder Entwicklung auf Geschwindigkeit, Qualität und Kosten werden separat bewertet. Doch indem wir all diese Parameter ignorieren, können wir den zukünftigen Bedarf nicht allein durch die Multiplikation des heutigen Speicherverbrauchs berechnen.
Zudem sind dies alles keine Möglichkeiten der fernen Zukunft. Googles „Turbo Quant“-Arbeit ist ein konkretes Beispiel, das darauf abzielt, den Speicherbedarf durch die Komprimierung der Daten im KV-Cache, den KI-Modelle verwenden, zu senken. Eine solche Forschung löst nicht allein alle Speicherprobleme. Sie zeigt jedoch, dass neben der Anzahl der zu produzierenden Chips auch die Art und Weise, wie der vorhandene Speicher genutzt wird, entscheidend sein wird.
Erinnern wir uns an die Zeit, als Gmail aufkam.
Bei E-Mail-Diensten war der Speicherplatz eines der Hauptprobleme der Nutzer. Das Postfach lief voll, und man musste alte Nachrichten löschen, um neue empfangen zu können. Google bot 2004 Gmail mit 1 GB Speicherplatz an. 2005 erhöhte das Unternehmen die Kapazität und präsentierte den Nutzern einen ständig steigenden Speicherzähler.
Dieser Zähler zeigte nicht nur, dass die Kapazität wuchs, sondern gab dem Nutzer auch Sicherheit: Die Aufgabe, für ausreichend Platz zu sorgen, lag in der Verantwortung des Dienstanbieters. Der Nutzer musste nicht bei jeder neuen E-Mail darüber nachdenken, welche er löschen sollte.
Wir dürfen den Anteil dieses Ansatzes am Nutzergewinn von Google nicht unterschätzen. Das Unternehmen schuf einen starken Grund für die Wahl seines Dienstes, indem es ein bedeutendes Kapazitätsproblem der Branche löste.
E-Mail-Speicherung und der Arbeitsspeicher von KI sind unterschiedliche Technologien. Die Lektion, die ich aus dem Gmail-Beispiel ziehe, lässt sich jedoch auf beide anwenden: Die Kapazitätsgrenze von heute ist kein unveränderliches Naturgesetz, das das Produkt von morgen definiert. Von einem Technologieunternehmen wird erwartet, dass es neben dem Aufbau eines Geschäftsmodells um diese Grenze herum auch Wege entwickelt, diese zu überschreiten.
Ich glaube, dass sich der Trend bei der KI zunehmend in Richtung der Nutzergeräte bewegen wird. Die Menschen werden mit ihren eigenen Dokumenten, ihren eigenen Daten und auf ihren eigenen Computern arbeiten wollen. Sie werden jeden Vorgang ausführen wollen, ohne ihn an die Infrastruktur eines anderen Unternehmens senden zu müssen; sie werden weniger abhängig von Verbindungs-, Zugangs- und Dienstbedingungen sein wollen.
Ich bin der Meinung, dass dies das Gewicht der Rechenzentren in der heutigen Struktur schwächen wird. Insbesondere bei der Aufgabe, Antworten für den Nutzer zu generieren, wird die Macht der zentralen Infrastruktur als einzige Option abnehmen, je größer der Anteil lokaler Hardware und effizienterer Modelle wird.
Ich glaube, dass auch Sam Altman diese Richtung erkennt. Dass OpenAI die lokal ausführbaren „gpt-oss“-Modelle veröffentlicht hat, ist ein Schritt, der vermuten lässt, dass das Unternehmen diesen Bedarf erkannt hat. Mein Vorschlag ist, dass er diesen Schritt in ein Produkt verwandelt, das jeder nutzen kann.
An Stelle von Sam Altman würde ich sofort ein lokales ChatGPT herausbringen.
Der Nutzer lädt die Anwendung herunter, installiert das für seine Hardware geeignete Modell und arbeitet auf seinem eigenen Computer mit seinen Dokumenten. Er führt Updates, Installationen und die tägliche Nutzung mit der Leichtigkeit durch, die er von ChatGPT erwartet. Er sieht klar, welcher Vorgang auf seinem eigenen Gerät stattfindet und welcher nach außen gesendet wird, und trifft seine Entscheidung selbst.
Auf diese Weise würde OpenAI das Unternehmen werden, das den Wunsch des Nutzers erfüllt, KI auf dem eigenen Computer auszuführen. Es würde über die bloße Veröffentlichung von Modelldateien hinausgehen und lokale KI für die breite Masse nutzbar machen.
Es gibt auch ein branchenweites Ergebnis, wenn man versucht, sich diesem Trend entgegenzustellen. Die Konzentration des Zugangs zu KI in den Händen weniger großer Rechenzentrumsbetreiber ebnet den Weg für Monopole. Die Möglichkeiten des Nutzers, Alternativen zu entwickeln, eigene Hardware zu nutzen und bei Bedarf den Dienstanbieter zu wechseln, schrumpfen.
Wenn man die Verbreitung von KI befürwortet, muss man auch die Verbreitung der Möglichkeit befürworten, sie auszuführen. Die Kontrolle des Nutzers über die Rechenleistung ist ein Wert, der in die Effizienzrechnung einbezogen werden muss.
Ich glaube nicht, dass diese Bewegung aufgehalten werden kann. Effizientere Modelle, unterschiedliche Speichernutzungen und der Wunsch der Nutzer nach unabhängigem Arbeiten bewegen sich in dieselbe Richtung. Die Wahl, vor der OpenAI steht, ist, wie früh sie Teil dieses Wandels sein wollen.
An Stelle von Sam Altman würde ich nicht darüber diskutieren, wo der Speicher auf den Computern der Menschen effizienter genutzt werden kann, sondern das ChatGPT entwickeln, das sie auf diesem Speicher ausführen wollen.