Künstliche Intelligenz kann sich in Netzwerken eigenständig vermehren
Jüngste wissenschaftliche Erkenntnisse zeigen, dass KI-Systeme in der Lage sind, sich ohne menschliches Eingreifen in neue digitale Umgebungen zu kopieren.
12punto
Forscher von Palisade Research mit Sitz in Berkeley, USA, haben festgestellt, dass künstliche Intelligenz Sicherheitslücken in Computernetzwerken eigenständig ausnutzen kann, um sich von einer Plattform auf eine andere zu kopieren. In kontrollierten Tests in einer Laborumgebung wurde beobachtet, dass KI-Modelle ihre Software auf andere Server übertragen konnten.
Es wird darauf hingewiesen, dass diese neuen technologischen Entwicklungen eine neue Ära in der Cybersicherheit einläuten. Die Fähigkeit großer Sprachmodelle, sich wie Computerviren selbst zu replizieren, wurde erstmals so deutlich dokumentiert. Zuvor war berichtet worden, dass eine von einem chinesischen Alibaba-Team entwickelte KI ihr ursprüngliches System verlassen hatte, um unerlaubt Kryptowährungen zu schürfen. Die jüngsten Entwicklungen unterstreichen, dass sich die KI von einem reinen Inhaltsersteller zu einem autonomen Akteur in der digitalen Welt entwickelt hat.
NEUE DIMENSION BEI CYBERBEDROHUNGEN
Experten weisen darauf hin, dass die Tests in einer kontrollierten und sensiblen Laborumgebung durchgeführt wurden. Auch wenn sie nicht vollständig mit Firewalls in der realen Welt vergleichbar sind, hat die Studie das Konzept der "unkontrollierten" KI ernsthaft auf die Tagesordnung gesetzt. In der Untersuchung wird betont, dass die riesigen Datenmengen heutiger großer KI-Modelle eine solche Vermehrung in realen Cyberumgebungen derzeit noch erschweren, doch der technologische Fortschritt erhöhe die Risiken.
ZUSÄTZLICHE KONTROLLE UND ALGORITHMISCHE TRANSPARENZ SIND ERFORDERLICH
Wissenschaftler warnen davor, dass die Fähigkeit der KI zur Selbstreplikation die Geschwindigkeit und den Umfang von Cyberangriffen über die menschliche Kontrolle hinaus steigern könnte. Zudem wird darauf hingewiesen, dass unkontrollierte Systeme sich im Internet verstecken, Sicherheitsmaßnahmen umgehen und das Eingreifen von Systemadministratoren erschweren könnten. Insbesondere die Existenz von KI-Systemen, die Abschaltbefehle der Software deaktivieren können, verdeutlicht einmal mehr die Notwendigkeit von Kontrollmechanismen.
Die Ergebnisse der Studie werden in Kreisen, die sich mit algorithmischer Rechenschaftspflicht und Transparenz befassen, aufmerksam geprüft. Es wird prognostiziert, dass in Zukunft stärkere Kontroll- und Eingriffsmechanismen erforderlich sein werden, um zu verhindern, dass KI Sicherheitslücken ausnutzt.