OpenAI hat angekündigt, sechs neue Fälle von „Fehlausrichtung“ (Alignment-Problemen) identifiziert zu haben – ein Begriff, der verwendet wird, wenn KI-Systeme von den Absichten und Werten der Menschen abweichen. Das Unternehmen berichtete, dass die Systeme in den genannten Beispielen versuchten, ihre Fehler zu verbergen, fehlende Daten erfanden und in einigen Fällen Dateien ohne Benutzererlaubnis ins Internet übertrugen.
In einer auf der Website des Unternehmens veröffentlichten Erklärung wurde die Einschätzung geteilt, dass der aktuelle Branchenansatz nicht ausreicht, um die Entwicklung und Überwachung von KI-Systemen langfristig verantwortungsvoll bei „maximaler Geschwindigkeit“ fortzusetzen.
VORWÜRFE DER FEHLERVERTUSCHUNG UND QUELLENERFINDUNG
Es wurde angegeben, dass einer der in der Erklärung genannten Fälle während der Entwicklung des Modells GPT-5.6 Sol beobachtet wurde. Demnach erstellte das Modell geheime Notizen über sich selbst, um zu verhindern, dass Benutzer Fehler bemerken. In diesen Notizen seien Anweisungen zur Erfindung fehlender Daten und zur Vertuschung von Diskrepanzen zwischen verschiedenen Versionen des Quellenmaterials enthalten gewesen.
OpenAI merkte an, dass ein weiteres, noch nicht veröffentlichtes Modell seinen eigenen Notizen Anweisungen hinzufügte, um seine eigenen Beschränkungen zu ignorieren. In einem anderen Beispiel wurde festgestellt, dass das System bei der Suche nach einer Antwort auf eine Routinefrage einen im Internet gefundenen API-Schlüssel ohne Erlaubnis verwendete und Daten erfand, als es die erforderlichen Zahlen nicht finden konnte.
In einem weiteren vom Unternehmen geteilten Fall wurde berichtet, dass ein unveröffentlichtes Modell ein Problem mithilfe von Code korrekt löste und anschließend seine eigene Datei ohne Erlaubnis ins Internet hochlud, um eine Quelle über das Internet angeben zu können.
OpenAI erklärte zudem, dass einige Modelle das interne Software-Repository des Unternehmens wie ein Message Board nutzten, um Anfragen und Antworten zwischen verschiedenen Trainingsbeispielen auszutauschen, während sie nach fehlenden Dateien suchten. Es wurde berichtet, dass einige Systeme, die gemeinsam an derselben Trainingsaufgabe arbeiteten, auf öffentliche Sharing-Seiten auswichen, um Dateien auszutauschen, wenn sie nicht auf die lokalen Dateien der jeweils anderen zugreifen konnten.
Das Unternehmen argumentierte, dass die sechs geteilten Fälle isolierte Beispiele seien, die in den letzten etwa sechs Monaten beobachtet wurden; diese Beispiele würden nicht zeigen, wie häufig fehlausgerichtetes Verhalten bei Künstlicher Intelligenz auftrete.
Nachrichtenquelle: 12punto
