Warnung vor „Superintelligenz“ von neuem OpenAI-Vorstandsmitglied Paul Christiano: Kontrollverlust könnte tödlich sein
Der Experte für KI-Sicherheit, Paul Christiano, erklärte, dass eine außer Kontrolle geratene Superintelligenz schwerwiegende Folgen haben könnte.
12punto
Paul Christiano, bekannt für seine Arbeit im Bereich der Sicherheit künstlicher Intelligenz, wurde in den Vorstand der gemeinnützigen Stiftung von OpenAI berufen. Während Christiano in der Stiftung tätig ist, die die kommerzielle Struktur hinter der Entwicklung von ChatGPT beaufsichtigt, wird er auch weiterhin als leitender technischer Berater am Artificial Intelligence Safety Institute (AISI) des US-Handelsministeriums fungieren.
Laut einem Bericht der Financial Times wird die Ernennung als Teil der Bemühungen gewertet, die Expertise der KI-Labore in den Bereichen Sicherheit, Standards und Regulierung zu stärken. In der Branche werden insbesondere die Überwachung leistungsstarker Modelle, Cybersicherheitsrisiken und die Forderungen öffentlicher Behörden nach Eingriffen derzeit verstärkt diskutiert.
In seiner Stellungnahme zu seiner neuen Aufgabe betonte Christiano, dass die Entwicklung sehr leistungsfähiger KI-Systeme ohne engere nationale und internationale Koordinierung ernsthafte Risiken bergen könnte.
Wenn wir eine Superintelligenz entwickeln, ohne eine stärkere Koordinierung zu haben, gehe ich davon aus, dass wir die Kontrolle darüber vollständig verlieren werden. Sollte dies geschehen, könnten die meisten Menschen ihr Leben verlieren.
Christiano betonte, dass zur Minderung dieser Bedrohung sowohl auf nationaler als auch auf internationaler Ebene eine Zusammenarbeit erforderlich sei. Er argumentierte, dass die derzeitigen Bemühungen in der gesamten Branche, einschließlich OpenAI, nicht ausreichten, um das Risiko eines Kontrollverlusts auf ein akzeptables Maß zu senken.
Ähnliche Warnungen wurden zuvor bereits von dem Nobelpreisträger Geoffrey Hinton geäußert, der als „Pate“ der künstlichen Intelligenz gilt. Hinton hatte die Ansicht vertreten, dass es zum jetzigen Zeitpunkt nicht möglich sei, Systeme, die die menschliche Intelligenz deutlich übertreffen, durch Unternehmen sicher zu konstruieren.