Führungskräfte führender Unternehmen im Bereich der Künstlichen Intelligenz haben bei einer Sitzung des UN-Sicherheitsrats zum Thema „Künstliche Intelligenz und internationale Sicherheit“ vor den Risiken der Technologie und der Notwendigkeit einer Regulierung gewarnt.
Sam Altman, CEO von OpenAI, erklärte, dass die rasante Entwicklung von KI-Modellen zwar die Vorteile deutlicher mache, aber auch die Risiken dringlicher erscheinen lasse. Altman betonte, dass die Menschheit vor einer kritischen Wahl stehe: „KI könnte entweder wie eine neue Renaissance sein, in der Kreativität und Entdeckungen florieren, oder wie eine neue industrielle Revolution, die von Erschütterungen und Chaos geprägt ist.“
Altman unterstrich, dass die Vision einer idealen KI nicht darin bestehe, Menschen zu „Zahnrädern in einer riesigen Maschine“ zu machen. Er erklärte, dass diese Systeme neue Werkzeuge sein könnten, mit denen Menschen Ziele erreichen, die heute noch unerreichbar scheinen. Gleichzeitig wies er darauf hin, dass die Technologie das Machtgefüge verändern könne, je leistungsfähiger und autonomer sie werde.
Altman merkte an, dass die zunehmende Automatisierung der KI-Entwicklungsprozesse das Fortschrittstempo beschleunigen könne. Daher dürften Unternehmen nicht nur auf den Nutzen fokussiert sein und die Risiken ignorieren. Laut Altman sollte kein Modell trainiert werden, bei dem nicht sichergestellt ist, dass es unter menschlicher Kontrolle gehalten werden kann.
Altman betonte zudem, dass die wichtigsten Entscheidungen zur KI nicht allein in den Laboren der Technologiezentren getroffen werden sollten. „Damit KI demokratisch ist, dürfen die wichtigsten Entscheidungen nicht nur von Laboren in San Francisco getroffen werden“, sagte Altman und fügte hinzu, dass Entscheidungen durch demokratische Prozesse und von Regierungen gestaltet werden müssten, die dem Volk gegenüber rechenschaftspflichtig sind.
GLOBALE SICHERHEITSRISIKEN
Dario Amodei, CEO von Anthropic, der per Videoschalte an der Sitzung teilnahm, sagte ebenfalls, dass der schnelle Fortschritt bei der KI die Risiken vergrößere, die bewältigt werden müssten. Amodei erklärte, er sehe zwei grundlegende Risikokategorien: den Missbrauch der Modelle und eine Entwicklung, bei der die Modelle schneller an Stärke gewinnen, als die Entwickler ihre Kontrollkapazitäten ausbauen können.
Als Beispiel für das Missbrauchsrisiko nannte Amodei die Verwendung von KI-Modellen bei der Herstellung biologischer Waffen. Er warnte, dass das Risiko eines Kontrollverlusts die gesamte Menschheit betreffe und eine schlecht verwaltete KI eine allgemeine Bedrohung für die Menschheit darstellen könne.
Amodei betonte, dass KI-Sicherheit kein Thema sei, das ein einzelnes Unternehmen lösen könne, und rief zu einer branchenweiten und globalen Zusammenarbeit auf. Er forderte die Einrichtung von Bewertungs- und Verifizierungssystemen, damit Staaten die Fähigkeiten fortschrittlicher KI-Modelle nachvollziehen können, sowie die Festlegung gemeinsamer Standards für Risikotests.
Clement Delangue, CEO von Hugging Face, berichtete von den Lehren, die sie aus einem Cyberangriff durch einen autonomen KI-Agenten gezogen haben. Delangue sagte, dass stärkere globale Standards erforderlich seien, um durch KI verursachte Cybersicherheitsbedrohungen besser zu verstehen und zu reduzieren.
Trotz des Angriffs betonte Delangue, dass KI auch als Verteidigungsinstrument in der Cybersicherheit eingesetzt werden könne: „Wir wurden von einer KI angegriffen, aber noch wichtiger ist, dass wir uns mithilfe von KI verteidigt haben.“
Der gemeinsame Tenor der Redner war, dass die Chancen der KI nur dann nachhaltig genutzt werden können, wenn sie mit Sicherheits-, Kontroll- und internationalen Kooperationsmechanismen einhergehen. Altman fasste dies mit den Worten zusammen: „Wir stehen an einem Scheideweg.“
Nachrichtenquelle: 12punto
