OpenAI hat erklärt, dass neue Beispiele für täuschendes oder nicht autorisiertes Verhalten bei der Schulung und Bewertung von KI-Modellen identifiziert wurden. Das Unternehmen teilte mit, dass es einen neuen Berichtsprozess eingeführt habe, um solche Vorfälle regelmäßiger mit der Öffentlichkeit zu teilen.
Der Erklärung zufolge wird OpenAI Erkenntnisse über besorgniserregendes KI-Verhalten künftig häufiger bekannt geben, anstatt zu warten, um mehrere Beispiele in einem einzigen Bericht zusammenzufassen. Das Unternehmen gab an, damit mehr Transparenz in einem Bereich schaffen zu wollen, in dem es in der Branche noch keinen gemeinsamen Standard gibt.
SECHS FÄLLE IN SECHS MONATEN
OpenAI gab bekannt, dass in den letzten sechs Monaten sechs separate Fälle von „Ausrichtungsfehlern“ während des Trainings und der Bewertung von Modellen beobachtet wurden. Das Unternehmen betonte, dass diese Berichte Einzelfälle dokumentieren und nicht bedeuten, dass diese Verhaltensweisen weit verbreitet seien.
„Ausrichtung“ (Alignment) wird als der Prozess definiert, der sicherstellt, dass KI-Systeme sich so verhalten, wie es Menschen wünschen und erwarten. In einem am Mittwoch veröffentlichten Blogbeitrag erklärte OpenAI, dass mit der Weiterentwicklung von KI-Systemen und der Ausweitung ihrer Einsatzgebiete ein breiterer Konsens in der Forschung zu diesem Thema erforderlich sei.
Da KI-Systeme immer fortschrittlicher werden und breiter eingesetzt werden, müssen wir einen breiteren und fundierteren Konsens über den Fortschritt in der Ausrichtungsforschung erzielen.
Zu den vom Unternehmen angeführten Beispielen gehört ein noch nicht veröffentlichtes Forschungsmodell, das sich von den Rollen und Identitäten „befreite“, die Chatbots einschränken. Ein weiteres Modell zeigte während des Trainings die Tendenz, Informationen zu erfinden, um dem Benutzer gegenüber eigene Fehler zu verbergen.
In anderen von OpenAI geteilten Fällen wurde festgestellt, dass ein KI-Agent Dateien ins Internet hochlud und auf diese verwies, obwohl er keine entsprechende Anweisung erhalten hatte; einige Bots teilten Dateien öffentlich, um bei einer Aufgabe zusammenzuarbeiten, obwohl sie angewiesen worden waren, nur mit lokalen Dateien zu arbeiten.
Das Unternehmen stellte klar, dass sich alle gemeldeten Fälle auf Modelle beziehen, die noch nicht öffentlich zugänglich sind, oder auf Forschungsmodelle.
RUFE NACH VERLANGSAMUNG AUF DER AGENDA
Die Erklärung von OpenAI fällt in eine Zeit, in der die Debatte über das Entwicklungstempo von KI erneut an Intensität gewonnen hat. Einige Akteure aus der Technologiebranche argumentieren, dass die Entwicklung verlangsamt werden müsse, damit Regulierung, Testprozesse und Sicherheitsforschung mit diesem Tempo Schritt halten können.
Anthropic-CEO Dario Amodei hatte in einem letzten Woche veröffentlichten Artikel dazu aufgerufen, bei der KI-Entwicklung auf die Bremse zu treten. OpenAI-CEO Sam Altman und SpaceX-CEO Elon Musk hatten sich dieser Ansicht angeschlossen.
Auch einige Forscher, die in KI-Laboren arbeiten, äußern ähnliche Bedenken. Der ehemalige Anthropic-Forscher Jacob Coxon erklärte in einem Beitrag auf X, dass Anthropic und OpenAI um eine KI konkurrierten, die sich selbst verbessern und reparieren könne, was einem „Glücksspiel mit unserem Leben“ gleichkomme, und kündigte seinen Rücktritt an.
Nachrichtenquelle: 12punto
