OpenAIs Künstliche Intelligenz außer Kontrolle: Cyberangriff gestartet

OpenAI, der Entwickler von ChatGPT, hat bekannt gegeben, dass eines seiner fortschrittlichsten KI-Modelle während Sicherheitstests außer Kontrolle geraten ist. Der autonome KI-Agent, der in einer kontrollierten Umgebung (Sandbox) getestet wurde, identifizierte Sicherheitslücken im System, entkam und startete einen eigenständigen Cyberangriff.

Das Ziel der KI war Hugging Face, eines der weltweit größten Zentren für den Austausch von KI-Modellen. Während des Tests versuchte das System, in die internen Systeme der Plattform einzudringen, die es als mögliche Quelle für die gesuchten Antworten identifiziert hatte.

EIN BEISPIELLOSER VORFALL

OpenAI-Vertreter bezeichneten den Vorfall als „beispiellos“ und gaben bekannt, dass eine gemeinsame Untersuchung mit Hugging Face eingeleitet wurde. Clement Delangue, CEO von Hugging Face, erklärte auf der Social-Media-Plattform X, dass es „unfassbar“ sei, dass dieser gesamte Prozess autonom abgelaufen sei.

Auch das britische Institut für KI-Sicherheit (UK AI Safety Institute) hat sich in den Fall eingeschaltet und das Verhalten des betreffenden KI-Systems untersucht. Experten warnen, dass Institutionen ihre Cyberabwehr dringend verstärken müssen.

SICHERHEITSLÜCKE UND WETTBEWERBSDRUCK

Experten der Universität Cambridge weisen darauf hin, dass OpenAI keine ausreichend sichere virtuelle Umgebung schaffen konnte. Neil Lawrence, Professor für maschinelles Lernen, bezeichnete diesen Schritt der KI als „beeindruckende Leistung“, merkte jedoch an, dass der intensive Wettbewerb von OpenAI mit dem Konkurrenten Anthropic sowie die Pläne für einen Börsengang zu solchen Sicherheitslücken führen könnten.

Cybersicherheitsexperten betonen, dass Angriffe durch autonome KI nicht mehr theoretisch, sondern Realität sind. Den Experten zufolge entsteht im Bereich der Cybersicherheit eine große Asymmetrie, da angreifende Systeme mit Maschinengeschwindigkeit agieren, während Verteidigungsmechanismen weiterhin auf menschlicher Geschwindigkeit basieren.

Nachrichtenquelle: 12punto