Cybersicherheit im Zeitalter der Künstlichen Intelligenz: Die Beispiele KGM und Meta

Eines der meistdiskutierten Themen im Bereich der Künstlichen Intelligenz ist der Verlust von Arbeitsplätzen. Eine Gruppe von Menschen glaubt, dass die KI das Ende der Menschheit bedeuten wird. Eine andere Gruppe fürchtet, dass sämtliche Berufe verschwinden werden.

Ich glaube, dass wir heute einer viel realeren Gefahr gegenüberstehen.

Und das ist die unüberlegte Anbindung von Künstlicher Intelligenz an die Systeme von Institutionen.

Zwei Vorfälle, die mir in den letzten Tagen begegnet sind, haben gezeigt, wie ernst dieses Problem ist. Interessant dabei ist, dass einer der Vorfälle bei einer öffentlichen Einrichtung in der Türkei und der andere bei einem der weltweit größten Technologieunternehmen stattfand.

Das Beispiel KGM

Nach der Rückkehr aus dem Urlaub habe ich das System der Generaldirektion für Autobahnen (KGM) aufgerufen, um zu prüfen, ob es Probleme mit meinen HGS-Aufzeichnungen (elektronisches Mautsystem) gibt.

Das Bild, das sich mir bot, war ziemlich überraschend.

Es war möglich, auf die Durchfahrtsdaten zuzugreifen, indem man lediglich das Kennzeichen eingab, ohne irgendeine Identitätsprüfung durchzuführen.

Noch interessanter war, dass das System Aufzeichnungen aus dem Jahr 2017 anzeigte, obwohl das abgefragte Fahrzeug ein Modell aus dem Jahr 2023 war.

Kurz darauf verstand ich den Grund.

Das System verfolgte nicht das Fahrzeug, sondern das Kennzeichen.

Das bedeutet, wenn dasselbe Kennzeichen in der Vergangenheit an einem anderen Fahrzeug verwendet wurde, konnten auch die Aufzeichnungen aus diesem Zeitraum eingesehen werden. Mit anderen Worten: Eine Person konnte auf die vergangenen Reisen einer anderen Person zugreifen.

Ich rief das Callcenter an, um das Problem zu melden.

Ich landete bei einem KI-gestützten Sprachdialogsystem.

Aus Neugier gab ich ein Kennzeichen ein.

Das System begann, die entsprechenden Durchfahrtsinformationen preiszugeben, ohne zu verifizieren, ob das Kennzeichen mir gehörte.

Der Punkt, auf den man hier achten muss, ist nicht die KI selbst.

Das eigentliche Problem ist, wie die Daten und Berechtigungen, auf die die KI zugreift, definiert sind.

Genau an diesem Punkt kommt einem die Entscheidung der türkischen Datenschutzbehörde (KVKK) in den Sinn, die letzte Woche veröffentlicht wurde.

Die Behörde für den Schutz personenbezogener Daten hat einen sehr restriktiven Ansatz gegenüber der Verwendung biometrischer Daten wie Fingerabdrücke, Geometrie des Gesichts, Netzhaut- und Iris-Scans bei der Zeiterfassung von Mitarbeitern eingenommen.

Die Begründung ist äußerst logisch.

Diese Daten sind extrem sensibel. Wenn sie einmal entwendet wurden, können sie nicht mehr geändert werden.

Doch man stellt sich unweigerlich die Frage:

Wenn einerseits Systeme, die die Arbeitszeit per Fingerabdruck erfassen, unter die Lupe genommen werden, während andererseits Informationen über die Reisehistorie von Bürgern ohne ausreichende Verifizierung zugänglich sind, wird hier die Prioritätenliste richtig aufgestellt?

Es gibt einen gravierenden Unterschied zwischen dem Wissen, wann eine Person zur Arbeit gekommen ist, und dem Wissen, in welchen Städten sich eine Person aufgehalten hat, welche Routen sie genutzt hat und an welchen Daten sie gereist ist.

Bei Diskussionen über Datensicherheit muss man nicht nur darauf schauen, welche Daten gesammelt werden, sondern auch darauf, wer auf welche Daten zugreifen kann.

Das Beispiel Meta

In denselben Tagen wurde eine bemerkenswerte Nachricht über Meta veröffentlicht.

Hackern gelang es, Hunderte von Konten zu übernehmen. Darunter befanden sich auch Konten von bekannten Persönlichkeiten und großen Marken.

Den Behauptungen zufolge war die Methode äußerst simpel.

Sie kontaktierten den KI-gestützten Kundenservice und stellten einige Änderungsanträge bezüglich des Kontos.

Das KI-System erfüllte diese Anfragen ohne ausreichende Verifizierung.

E-Mail-Adressen wurden geändert.

Links zum Zurücksetzen des Passworts wurden an die neuen Adressen gesendet.

Als Ergebnis gelangten die Konten unter die Kontrolle der Angreifer.

Meta gab später bekannt, dass die Sicherheitslücke geschlossen wurde.

Doch auch hier war das grundlegende Problem nicht die Existenz der KI.

Das Problem war, welche Befugnisse der KI erteilt wurden und mit welchen Kontrollen diese Befugnisse begrenzt waren.

Das eigentliche Problem ist nicht die Künstliche Intelligenz

Diese beiden Beispiele scheinen auf den ersten Blick völlig unterschiedlich zu sein.

Eines ist im öffentlichen Sektor.

Das andere in der Privatwirtschaft.

Eines in der Türkei.

Das andere in Amerika.

Aber beide erzählen dasselbe.

Viele Institutionen denken zuerst an die Effizienz, wenn sie versuchen, KI in ihre Systeme zu integrieren.

Schnellerer Kundenservice.

Weniger Personal.

Niedrigere Kosten.

Höhere Automatisierung.

Doch meistens wird die folgende Frage nicht ausreichend gestellt:

"Was passiert, wenn dieses System eine falsche Entscheidung trifft?"

Noch wichtiger:

"Was passiert, wenn ein Angreifer dieses System austrickst?"

Heute laufen die Prozesse in vielen Institutionen verkehrt herum.

Zuerst wird ein KI-Projekt gestartet.

Dann werden CRM-Systeme angebunden.

Kundendaten werden freigegeben.

Buchhaltungssysteme werden verbunden.

Callcenter werden angeschlossen.

Berechtigungen werden definiert.

Doch an Bedrohungsmodellierung denkt man meist erst im Nachhinein.

Dabei ist der richtige Ansatz genau umgekehrt.

Bevor ein KI-Projekt beginnt, müssen mögliche Angriffsszenarien erstellt werden.

Auf welche Daten wird zugegriffen?

Welche Transaktionen können durchgeführt werden?

Welche Entscheidungen können eigenständig getroffen werden?

An welchem Punkt ist eine menschliche Genehmigung erforderlich?

Was ist das schlimmste Szenario, wenn ein Angreifer das System austrickst?

Ohne die Beantwortung dieser Fragen stellt die Inbetriebnahme von KI in einer Produktionsumgebung ein ernstes Risiko dar.

In der Vergangenheit suchten Angreifer nach Schwachstellen in der Software.

Heute zielen sie auf die Entscheidungsmechanismen ab.

Sie versuchen, die KI auszutricksen.

Sie versuchen, die Grenzen der Befugnisse zu überschreiten.

Sie versuchen, die Logik des Systems zu manipulieren.

Deshalb muss Cybersicherheit bei KI-Projekten heute nicht mehr eine nachträglich hinzugefügte Ebene sein, sondern der Ausgangspunkt des Projekts.

Die Beispiele KGM und Meta erteilen uns dieselbe Lektion.

KI-Systeme stellen kein Risiko dar, weil sie gefährlich sind, sondern weil sie ohne ausreichendes Nachdenken mit Befugnissen ausgestattet werden.

Das eigentliche Sicherheitsproblem im Zeitalter der KI sind nicht die Algorithmen selbst, sondern die Türen, die wir ihnen öffnen.

Was ich diese Woche getestet habe: Günsan smarte WiFi-LED-Lampe

Eines der Produkte, das meine Aufmerksamkeit diese Woche auf sich gezogen hat, waren die smarten WiFi-LED-Lampen von Günsan.

Die Produkte von Günsan sind mir nicht völlig fremd. Ich hatte bereits zuvor die Gelegenheit, die smarte Steckdose der Marke zu testen, und ich muss sagen, dass ich sie ehrlich gesagt gelungen fand. Besonders gefiel mir, dass man in die Welt des Smart Home einsteigen konnte, ohne die Installation zu verkomplizieren.

Das Produkt, das mir diesmal begegnete, waren die smarten WiFi-LED-Lampen.

Obwohl Smart-Home-Technologien schon seit Jahren Teil unseres Lebens sind, werden sie in letzter Zeit zugänglicher. Viele Funktionen, die früher aufwendige Installationen erforderten, können heute durch den einfachen Austausch einer Glühbirne genutzt werden.

Einer der bemerkenswerten Aspekte der von mir getesteten Modelle ist, dass sie nicht nur mit ihrer eigenen App funktionieren, sondern auch mit weit verbreiteten Plattformen wie Tuya und Smart Life sowie GG SMART. Dies bietet einen wichtigen Vorteil für Nutzer, die ein Smart-Home-System aus verschiedenen Marken aufbauen möchten.

Die Lampen, die 9W-LED-Technologie verwenden, arbeiten mit geringem Energieverbrauch. Das Modell mit weißem Licht bietet Lichttöne, die zwischen 2700K und 6500K einstellbar sind. Es ist möglich, im Arbeitszimmer ein lebendigeres Licht zu bevorzugen oder in den Abendstunden auf wärmere Töne umzuschalten.

Das RGB-Modell bietet 16 Millionen Farboptionen. Wenn man einen Film schaut, ein Buch liest oder einfach nur die Atmosphäre des Raumes verändern möchte, können verschiedene Szenarien erstellt werden.

Ich muss sagen, dass ich besonders die Timer-Funktionen nützlich fand. Dass sich die Lichter morgens zu einer bestimmten Zeit einschalten oder abends automatisch aktiviert werden, gehört zu den kleinen, aber effektiven Details, die den Alltag erleichtern.

Es scheint, als würden wir solche Produkte häufiger sehen, je mehr sich Smart-Home-Technologien verbreiten. Nach der smarten Steckdose von Günsan zeigen auch diese Lampen, die ich getestet habe, dass die Marke bei der Erweiterung ihrer Produktfamilie im Smart-Home-Bereich konsequent voranschreitet.