CrowdStrike-CEO Kurtz widerspricht Forderungen nach KI-Verlangsamung: Lösung liegt in der Laufzeitüberwachung
George Kurtz erklärte, dass fortschrittliche KI-Modelle bereits zugänglich seien, und argumentierte, dass die Lösung nicht in einem Stopp der Entwicklung, sondern in einer strengen Überwachung liege.
12punto
Der CEO von CrowdStrike, George Kurtz, hat sich gegen die Debatte ausgesprochen, wonach die Entwicklungsgeschwindigkeit von „Grenzmodellen“ (Frontier Models) im Bereich der künstlichen Intelligenz gedrosselt werden sollte. Kurtz erklärte, dass fortschrittliche Modelle mit offenen Gewichten bereits weit verbreitet und zugänglich seien. Daher würde eine Verlangsamung der Entwicklungsaktivitäten zu diesem Zeitpunkt die bestehenden Cybersicherheitsrisiken nicht beseitigen.
Nachdem Anthropic-CEO Dario Amodei dazu aufgerufen hatte, die Entwicklung leistungsfähigerer KI-Modelle zu verlangsamen, betonte Kurtz gegenüber CNBC, dass Modelle mit gefährlichen Kapazitäten bereits öffentlich im Umlauf seien. Kurtz beschrieb die Situation mit den Worten „der Geist ist aus der Flasche“. Seiner Ansicht nach besteht der eigentliche Bedarf nicht darin, die Modelle zu stoppen, sondern Sicherheitssysteme zu etablieren, die während der tatsächlichen Nutzung überwachen können, was die Modelle tun, und bei Bedarf eingreifen können.
Der Ansatz von Kurtz konzentriert sich auf die Sicherheitsdebatte, die insbesondere mit der Verbreitung autonomer KI-Agenten kritischer geworden ist. Der CrowdStrike-CEO räumt zwar ein, dass diese Systeme ernsthafte Risiken bergen können, argumentiert jedoch, dass die Lösung keine allgemeine Verlangsamungspolitik sei, sondern Laufzeitkontrollen, die die Befugnisse der Agenten einschränken, ihre Vorgänge sichtbar machen und schädliches Verhalten verhindern.
Die Diskussion kam in einer bewegten Zeit für Technologieaktien auf. Der Anstieg der CrowdStrike-Aktien am Montag von 206 Dollar auf über 235 Dollar rückte die Einschätzungen des Unternehmens zu KI und Cybersicherheit in den Fokus des Marktinteresses.
ZWEI VERSCHIEDENE ANSÄTZE IN DER SICHERHEITSDISKUSSION
Der Vorstoß von Kurtz fällt mit wachsenden Sicherheitsbedenken nach den jüngsten Angriffen im Zusammenhang mit Hugging Face und RubyGems zusammen. Diese Vorfälle haben nicht nur die Macht der KI-Modelle zur Diskussion gestellt, sondern auch die Frage aufgeworfen, welche Zugriffs- und Prozessbefugnisse autonomen Systemen eingeräumt werden sollten. Im gleichen Zeitraum veröffentlichte Microsoft im Rahmen des „Patch Tuesday“ Updates für 974 Sicherheitslücken, darunter zwei Zero-Day-Schwachstellen, was den enormen Druck auf der Verteidigungsseite verdeutlichte.
Der CrowdStrike-CEO vertritt in Bezug auf die Notwendigkeit einer strengen Kontrolle autonomer Agenten eine ähnliche Linie wie David Sacks. Er steht jedoch umfassenden staatlichen Eingriffen skeptisch gegenüber. Laut Kurtz könnten zu strenge Regulierungen die Wettbewerbsfähigkeit der USA gegenüber globalen Konkurrenten schwächen. Daher hält er Modelle für praktikabler, bei denen KI-Labore und Sicherheitsunternehmen zusammenarbeiten und die Überwachung in die Produktionsumgebung verlagern.
In diesem Zusammenhang verwies Kurtz auf die Initiative „Project Glasswing“ von Anthropic. Das Projekt zielt darauf ab, Schutzmaßnahmen auf Laborebene für das Mythos-Modell von Anthropic mit Laufzeitüberwachungstools in der Produktionsumgebung zu kombinieren. Auf diese Weise wird die Sicherheit nicht nur den Einschränkungen während der Modellentwicklungsphase überlassen; auch die Überwachung des Verhaltens des Modells während des Betriebs in der realen Umgebung wird Teil der Verteidigung.
Der Aufruf von Amodei löste auch außerhalb des Technologiesektors Diskussionen aus. Die Trump-Regierung sprach sich gegen eine Verlangsamung der KI-Entwicklung aus und argumentierte, dass dies die USA gegenüber China benachteiligen könnte. Die chinesische Seite äußerte ebenfalls die Ansicht, dass ein Ansatz, der auf Angst und hartem Wettbewerb basiert, der globalen KI-Governance schaden würde.
Somit gestaltet sich die Debatte um zwei Hauptachsen: der Vorschlag, den Fortschritt zu verlangsamen, bevor noch leistungsfähigere Modelle entstehen, und der Ansatz, zu akzeptieren, dass bestehende Modelle bereits zugänglich sind, und Sicherheitsinvestitionen auf Echtzeitüberwachung, Agentenkontrollen und Verteidigungstools zu lenken. Kurtz hält den zweiten Weg für realistischer und umsetzbarer.