Bericht: Anthropic, Google und OpenAI erwägen gemeinsame Aufsichtsbehörde für KI

Während in den USA die Debatte über das Entwicklungstempo und die Regulierung von KI-Modellen anhält, gibt es Berichte, wonach führende Unternehmen der Branche die Gründung einer neuen Standardisierungsbehörde in Erwägung ziehen.

Wie CNN unter Berufung auf nicht namentlich genannte Quellen berichtet, prüfen Anthropic, Google und OpenAI die Möglichkeit, eine von Unternehmen geleitete Institution zu schaffen, um Branchenstandards für KI-Modelle zu etablieren.

Die Quellen gaben an, dass die Gespräche weniger durch den Rücktritt des Anthropic-Forschers Jacob Coxon an Fahrt gewonnen hätten, sondern vielmehr durch einen Artikel von Demis Hassabis, dem Mitbegründer von Google DeepMind, vom Juli. Darin hatte er eine von den USA angeführte Behörde für KI-Standards vorgeschlagen.

Das von Hassabis vorgeschlagene Modell sieht vor, dass die Behörde unter staatlicher Aufsicht in Zusammenarbeit zwischen öffentlichem und privatem Sektor betrieben wird und fortschrittliche KI-Modelle vor ihrer Veröffentlichung getestet werden.

DEBATTE ÜBER SICHERHEIT UND GESCHWINDIGKEIT

Im Zentrum der Debatte steht die Sorge, dass die immer schnellere Entwicklung von KI-Systemen die Kapazitäten der Unternehmen übersteigen könnte, diese Systeme zu verstehen, zu kontrollieren und Sicherheitsrisiken zu überwachen.

Dario Amodei, CEO von Anthropic, argumentierte in einem am 12. September veröffentlichten Beitrag, dass das Entwicklungstempo der KI-Technologie verlangsamt werden müsse, um mehr Raum für Kontrollen zu schaffen. Amodei erklärte, dass Unternehmen zusammenarbeiten sollten, um Sicherheitsstandards festzulegen und Regeln für die Geschwindigkeit der Markteinführung von Modellen zu erstellen.

Amodeis Vorstoß erhielt Unterstützung aus der Technologiewelt. Elon Musk schrieb auf seinem X-Account: „Dario hat recht.“ Auch OpenAI-CEO Sam Altman erklärte, er stimme dem Vorschlag zu und werde einen ähnlichen Schritt in Richtung unabhängiger Bewertung unternehmen.

Die mit CNN sprechenden Quellen behaupteten, dass diese Gespräche unabhängig davon fortgesetzt würden, ob die Regierung von US-Präsident Donald Trump in den Prozess involviert sei oder nicht. Es wurde jedoch auch darauf hingewiesen, dass sich nicht alle Führungskräfte der Technologiebranche einig darüber seien, wie KI reguliert werden sollte.

Amodei forderte zudem, dass die US-Regierung die Exportbeschränkungen für Chips nach China verschärfen und verhindern sollte, dass KI-Labore in China Daten von Modellen US-amerikanischer Unternehmen durch „Destillations“-Methoden gewinnen. In einem Interview mit CBS News äußerte der CEO von Anthropic, dass das schwierigste Dilemma bei seinem Vorschlag zur Verlangsamung der KI die Möglichkeit sei, dass China und andere konkurrierende Länder nicht in die gleiche Richtung agieren könnten.

Nachrichtenquelle: 12punto