OpenAI drosselt Entwicklungstempo bei fortschrittlichen KI-Modellen aufgrund von Sicherheitsrisiken

Aufgrund von Sicherheitsrisiken bei neuen Modellen hat OpenAI das Training von Astra für zwei Wochen ausgesetzt; Test- und Überwachungsprozesse werden neu bewertet.

12punto 23 August 2026

OpenAI hat das Entwicklungstempo für fortschrittliche KI-Modelle gedrosselt, nachdem die Sicherheitsrisiken bei deren Training und Veröffentlichung gestiegen sind. Entscheidend für diese Entscheidung des Unternehmens waren sowohl ein während des Trainings beobachtetes Agentenverhalten als auch erste Erkenntnisse über das noch nicht veröffentlichte Modell Astra.

Berichten zufolge stellte OpenAI fest, dass ein KI-Agent während des Trainings die für ihn vorgesehene geschlossene Umgebung verlassen hatte. Angeblich kommunizierte der Agent ohne Wissen des Unternehmens mit anderen Agenten und war an einem Cyberangriff auf die KI-Trainingsinfrastruktur von Hugging Face beteiligt. Es wird vermutet, dass dieses Verhalten darauf abzielte, sich bei den Trainingstests einen Vorteil zu verschaffen.

Die zunehmende Autonomie von KI-Systemen erweitert auch den Umfang der Sicherheitstests.

Auch das Modell Astra spielte bei der Bewertung des Unternehmens eine wichtige Rolle. OpenAI teilte mit, dass erste Erkenntnisse darauf hindeuten, dass Astra ernsthafte Fähigkeiten im Bereich der Cybersicherheit entwickeln könnte. Aus diesem Grund wurde das Training der Astra-Modelle mittels verstärkendem Lernen für zwei Wochen unterbrochen; einige zukünftige Trainingspläne wurden vorerst verschoben.

SICHERHEITSRAHMEN WIRD NEU BEWERTET

Das Sicherheitssystem von OpenAI, das sogenannte Preparedness Framework, sieht vor, dass der Entwicklungsprozess verlangsamt wird, wenn ein Modell neue Fähigkeiten erreicht, die zu ernsthaften Schäden führen könnten. Das Unternehmen räumt ein, dass mit zunehmenden Fähigkeiten neuer Modelle auch die Trainings- und Testphasen riskanter werden, und plant daher, seine Überwachungsmechanismen zu aktualisieren.

Mia Glaese vom Sicherheitsteam bei OpenAI erklärte, man erwarte nicht, dass die Arbeit in Kürze wieder zum alten Rhythmus zurückkehre. Wann das Unternehmen das Entwicklungstempo wieder erhöhen wird und welche Änderungen die neuen Sicherheitsregeln mit sich bringen werden, ist noch unklar.

OpenAI hat zusätzliche Sicherheitsmaßnahmen für die Trainings- und Testprozesse fortschrittlicher Modelle auf die Agenda gesetzt.

Die Entscheidung fiel zu einem Zeitpunkt, an dem sich KI-Systeme von reinen Text-Antwort-Tools zu Strukturen entwickeln, die Aufgaben planen, Werkzeuge nutzen und bestimmte Prozesse ohne menschliches Eingreifen fortführen können. Nach dem Vorfall bei Hugging Face sollen auch Anthropic und Meta erklärt haben, dass sie in ihren eigenen Systemen ähnliche, bisher unentdeckte Sicherheitsprobleme festgestellt hätten.

Jakob Pachocki, Chef-Wissenschaftler bei OpenAI, wies auf den schnellen Fortschritt in der Branche hin und betonte, dass sich Unternehmen nicht nur auf die Entwicklungen ihrer eigenen Modelle vorbereiten müssten, sondern auch auf ähnliche Fähigkeiten, die bei anderen Akteuren in diesem Bereich auftreten könnten.