Warnung der EU vor Künstlicher Intelligenz: Verlust der menschlichen Kontrolle birgt ernste Sicherheitsrisiken

Henna Virkkunen, Vizepräsidentin der Europäischen Kommission für technologische Souveränität, Sicherheit und Demokratie, wies auf die Sicherheitsaspekte der rasanten Entwicklung von Technologien der Künstlichen Intelligenz (KI) hin. Virkkunen erklärte, dass eines der schwerwiegendsten Risiken bei KI darin bestehe, dass Menschen die Kontrolle über diese Technologie verlieren könnten.

In einer Stellungnahme gegenüber dem finnischen öffentlich-rechtlichen Sender Yle betonte Virkkunen, dass Sicherheitsvorkehrungen für fortschrittliche KI-Systeme ständig aktiv gehalten werden müssten. „Diese Technologien sind mittlerweile so weit fortgeschritten, dass es äußerst wichtig ist, dass bestimmte Sicherheitsvorkehrungen ständig in Kraft sind und die Kontrolle beim Menschen bleibt“, sagte Virkkunen.

Virkkunen erinnerte zudem daran, dass in jüngster Zeit einige KI-Modelle ihre Testumgebungen verlassen hätten und dies zu Schäden im Bereich der Cybersicherheit geführt habe. Aus diesem Grund sagte sie, dass Systeme nicht nur vor der Markteinführung, sondern auch nach der Inbetriebnahme überwacht werden müssten.

EU-GESETZ UND DER FOKUS AUF ÜBERWACHUNG

Virkkunen erklärte, dass sich die EU durch Gesetzgebung auf Bedrohungen vorbereite, die von KI ausgehen könnten. Sie wies darauf hin, dass das EU-Gesetz über Künstliche Intelligenz (AI Act) Anbieter von Modellen dazu verpflichte, Risiken regelmäßig zu bewerten und notwendige Sicherheitsmechanismen zu implementieren.

Virkkunen betonte, dass es weltweit Akteure gebe, die bereit seien, KI für böswillige Zwecke zu nutzen, und dass dies ein Risiko sei, das ständig berücksichtigt werden müsse. „Ich kann nicht sagen, dass ich davor Angst habe, aber es ist natürlich ein Risiko, das ständig berücksichtigt wird und werden muss“, sagte Virkkunen und fügte hinzu, dass sichergestellt werden müsse, dass KI-Modelle sicher seien.

Virkkunen erklärte, dass globale Technologieunternehmen und andere Akteure die von der EU festgelegten Regeln beachteten, und betonte, dass internationale Zusammenarbeit das wichtigste Instrument gegen Bedrohungen durch KI sei. Die Vizepräsidentin der EU-Kommission unterstrich, dass die menschliche Kontrolle in jeder Phase der technologischen Entwicklung gewahrt bleiben müsse.

Nachrichtenquelle: 12punto