KI-Warnung von Geoffrey Hinton: „Vielleicht bleibt nur noch ein Jahr“ für Sicherheitsmaßnahmen

Der Nobelpreisträger und Wissenschaftler Geoffrey Hinton hat gegenüber Mitgliedern des US-Kongresses eindringliche Warnungen zur Entwicklungsgeschwindigkeit Künstlicher Intelligenz ausgesprochen. Hinton erklärte, dass möglicherweise nur noch ein Jahr bleibe, um notwendige Sicherheitsvorkehrungen zu treffen, „bevor wir die Kontrolle vollständig verlieren“.

Wie NBC berichtet, informierte Hinton auf Einladung des Senators von Vermont, Bernie Sanders, die Kongressmitglieder über die Risiken im Bereich der KI und die Notwendigkeit einer Regulierung.

Hinton erinnerte daran, dass Prognosen darüber, wann eine Superintelligenz erreicht werde, in der Vergangenheit im Bereich von 30 bis 50 Jahren lagen. Dieser Zeitraum habe sich zunächst auf 10 bis 20 Jahre verkürzt, und heute sprächen viele Forscher von einem Zeitrahmen von nur wenigen Jahren, so Hinton.

Dann sanken diese Schätzungen auf vielleicht 10, vielleicht 20 Jahre. Und jetzt sagen die Leute, viele Forscher, dass dies in nur wenigen Jahren geschehen wird. Vielleicht in einem Jahr, aber sicher nicht viel länger als ein Jahr.

Hinton betonte, dass die KI nun ein Stadium erreicht habe, in dem sie in der Lage sei, noch fortschrittlichere KI-Systeme zu entwerfen, was als „Selbstverbesserung“ bezeichnet werde. Er unterstrich, dass dieser Prozess bei unkontrolliertem Fortschreiten ernsthafte Risiken berge: „Wenn wir nichts unternehmen, wird die Situation außer Kontrolle geraten. Wir müssen das Tempo drosseln“, sagte er.

Der demokratische Abgeordnete Ted Lieu bezeichnete die Entwicklungen als „reines Science-Fiction-Szenario“ und betonte, dass KI auf grundlegender Ebene von Menschen kontrolliert werden müsse. Lieu erklärte, dass ein gegenteiliger Zustand inakzeptabel sei.

Senatör Bernie Sanders äußerte, dass die Sorgen hinsichtlich der Zukunft der Menschheit und der Möglichkeit, eine Technologie zu schaffen, die der Mensch nicht mehr kontrollieren könne, zunähmen. Sanders sagte, es gebe unter den Kongressmitgliedern ein „wachsendes Gefühl der Dringlichkeit“, dieses Thema anzugehen.

Nachrichtenquelle: 12punto