Entscheidung der EU-Staaten zu 'Künstlicher Intelligenz': Einigung auf neues Gesetz erzielt

Der Rat der EU hat bekannt gegeben, dass eine Einigung über das „Gesetz über Künstliche Intelligenz“ (AI Act) erzielt wurde, das zwischen den Mitgliedstaaten und dem Europäischen Parlament (EP) ausgehandelt wurde und weltweit die ersten umfassenden Regeln für Künstliche Intelligenz einführen wird. Demnach müssen KI-Systeme, die in europäischen Ländern eingesetzt werden, sicher sein und die Grundrechte sowie die Werte der Union respektieren.

TRANSPARENZPFLICHTEN

Laut einem Bericht von BirGün; werden KI-Systeme nach einem „risikobasierten“ Ansatz reguliert, basierend auf ihrem Potenzial, der Gesellschaft zu schaden. Für KI-Systeme mit hohem Risiko werden strengere Regeln gelten. Es werden klare Kriterien festgelegt, um KI von einfachen Softwaresystemen zu unterscheiden. Es wird sichergestellt, dass KI in keinem Fall die Kompetenzen der Mitgliedstaaten in Fragen der nationalen Sicherheit oder irgendeine in diesem Bereich beauftragte Stelle beeinträchtigt. Das KI-Gesetz gilt nicht für Systeme, die ausschließlich militärischen oder verteidigungspolitischen Zwecken dienen. KI-Systeme mit begrenztem Risiko müssen klar angeben, dass der Inhalt von einer KI erstellt wurde, damit die Nutzer fundierte Entscheidungen treffen können. Diese Systeme unterliegen leichten Transparenzpflichten.

NUTZUNGSBESCHRÄNKUNGEN

Verschiedene KI-Systeme mit hohem Risiko werden zugelassen. Der Zugang dieser Systeme zum EU-Markt wird jedoch an eine Reihe von Regeln und Verpflichtungen geknüpft sein. Einige Anwendungen von KI werden als inakzeptables Risiko eingestuft und diese Systeme werden in der EU verboten. Das Verbot umfasst die Manipulation kognitiven Verhaltens, das wahllose Erfassen von Gesichtsbildern aus dem Internet oder von Überwachungskameras, die Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, Social Scoring sowie die biometrische Kategorisierung zur Gewinnung sensibler Daten wie sexuelle Orientierung oder religiöse Überzeugungen. Strafverfolgungsbehörden können KI bei ihrer Arbeit einsetzen. Strafverfolgungsbehörden können im Rahmen eines Notfallverfahrens ein KI-Tool mit hohem Risiko einsetzen, das normalerweise das Konformitätsbewertungsverfahren nicht bestehen würde. Sicherheitsbehörden können in Ausnahmefällen und bei Bedarf Echtzeit-Fernidentifizierungssysteme an öffentlichen Orten mit Genehmigung nutzen.

Die Nutzung solcher KI-Systeme wird auf Fälle wie Terroranschläge, die Abwehr bestehender oder vorhersehbarer Bedrohungen und die Suche nach Personen, die schwerster Straftaten verdächtigt werden, beschränkt sein. Darüber hinaus wird ein spezieller Mechanismus eingeführt, um den ausreichenden Schutz der Grundrechte vor möglichem Missbrauch durch KI-Systeme zu gewährleisten. Für große Systeme, die eine Vielzahl unterschiedlicher Aufgaben wie das Erstellen von Videos, Texten, Bildern, das Sprechen in anderen Sprachen, Berechnungen oder das Schreiben von Computercode ausführen können, werden besondere Regeln eingeführt. Es wird sichergestellt, dass diese KI-Systeme für allgemeine Zwecke vor ihrer Markteinführung verschiedene Transparenzpflichten erfüllen.

ENTSCHEIDUNG ZUM KI-BÜRO

Innerhalb der EU-Kommission wird ein „KI-Büro“ eingerichtet, das mit der Überwachung fortschrittlicher KI-Modelle, der Mitwirkung an der Entwicklung von Standards und Testverfahren sowie der Umsetzung gemeinsamer Regeln in allen Mitgliedstaaten beauftragt ist. Ein wissenschaftliches Gremium aus unabhängigen Experten wird das KI-Büro beraten. Der KI-Ausschuss, der sich aus Vertretern der Mitgliedstaaten zusammensetzt, wird als Koordinierungsplattform und Beratungsorgan für die Kommission fungieren. Geldbußen bei Verstößen gegen das KI-Gesetz werden auf der Grundlage des jeweils höheren Wertes berechnet: entweder ein Prozentsatz des weltweiten Jahresumsatzes des Unternehmens im vorangegangenen Geschäftsjahr oder vorab festgelegte Beträge. Bei Verstößen gegen verbotene KI-Anwendungen werden Bußgelder in Höhe von 7 Prozent des Unternehmensumsatzes oder 35 Millionen Euro, bei Nichteinhaltung der Verpflichtungen 3 Prozent des Umsatzes oder 15 Millionen Euro und bei der Weitergabe falscher Daten 1,5 Prozent des Umsatzes oder 7,5 Millionen Euro verhängt. Bei der Festsetzung der Strafe wird der für das Unternehmen kostspieligere Wert herangezogen. Das Gesetz tritt nach der offiziellen Billigung durch die EU-Staaten und das EP in Kraft, die Anwendung beginnt 2 Jahre nach der offiziellen Genehmigung.

Die EU-Kommission hatte vor 2 Jahren den ersten Gesetzesvorschlag mit einem Rahmen für neue Regeln zur Künstlichen Intelligenz ausgearbeitet und den Mitgliedstaaten sowie dem EP vorgelegt.

Dieser Vorschlag enthielt eine Reihe von Einschränkungen und Transparenzregeln für die Nutzung von KI-Systemen. Im Gesetzesvorschlag der Kommission wurden KI-Systeme in 4 Hauptgruppen unterteilt: inakzeptables Risiko, hohes Risiko, begrenztes Risiko und minimales Risiko.

Mit dem neuen Gesetz müssen verschiedene KI-Technologien wie Googles KI-Modell Gemini und ChatGPT die neuen Regeln einhalten.

Nachrichtenquelle: 12punto