Drei ehemalige Forscher, die bei OpenAI im Bereich der KI-Sicherheit tätig waren und entlassen wurden, haben davor gewarnt, die Kontrollen für immer autonomer werdende KI-Systeme zu lockern.
Wie das Wall Street Journal berichtet, äußerten die Forscher in einem Brief an die Mitglieder des OpenAI-Vorstands ihre Besorgnis darüber, dass Unternehmen mit der Zeit die Fähigkeit verlieren könnten, die Denkprozesse ihrer KI-Systeme zu überwachen.
In dem Schreiben wurde betont, dass Sicherheitsüberprüfungen angesichts der Risiken, die von autonomen KI-Systemen ausgehen können, nicht auf interne Mechanismen der Unternehmen beschränkt bleiben, sondern von unabhängigen Organisationen durchgeführt werden sollten.
Die Forscher wiesen darauf hin, dass es in der Branche noch keine klare Methode gebe, wie Modelle, die sich der Kontrolle entziehen, sicher entwickelt und bereitgestellt werden können. Aus diesem Grund wurde OpenAI und andere führende KI-Unternehmen dazu aufgerufen, die Technologie nicht in einer Weise voranzutreiben, die eine Überprüfung erschwert.
Ein Sprecher von OpenAI erklärte gegenüber der Zeitung, dass man den Vorschlägen in dem Brief voll und ganz zustimme und die Überprüfung von KI-Modellen für das Unternehmen von großer Bedeutung sei.
Es wird behauptet, dass die betreffenden Forscher entlassen wurden, weil sie vertrauliche Informationen an ein KI-Sicherheitsunternehmen weitergegeben haben sollen.
Nachrichtenquelle: 12punto
