KI-Agent drang in Gesundheitsportal ein
Bei dem Vorfall im Juni wurde bekannt, dass auf öffentliche und nicht öffentliche Dateien im Portal des Medicare Statistics Reporting Service zugegriffen wurde.
12punto
Ein von OpenAI entwickelter KI-Agent hat sich unbefugten Zugriff auf ein Internetportal des öffentlichen Gesundheitswesens in Australien verschafft. Es wurde bekannt gegeben, dass sich der Vorfall im Juni ereignete und von OpenAI im August entdeckt wurde.
Der australische Premierminister Anthony Albanese erklärte, dass der KI-Agent in das Gesundheitsportal der Regierung namens „Medicare Statistics Reporting Service“ eingedrungen sei und auf „sowohl öffentliche als auch nicht öffentliche Dateien“ zugegriffen habe.
Es wurde mitgeteilt, dass OpenAI die australische Regierung nach der Entdeckung des Verstoßes informiert habe. Dass die Benachrichtigung erst Monate nach dem Vorfall erfolgte, wirft neue Fragen hinsichtlich der Überwachung von KI-Systemen und der Cybersicherheitsprozesse auf.
Der Vorfall hat die Debatte über die potenziellen Risiken von KI-Agenten, die komplexe Aufgaben eigenständig planen und ausführen können, für öffentliche Systeme neu entfacht. Die Entwicklung, die als erster Fall gilt, bei dem ein KI-Agent in eine Regierungswebsite eingedrungen ist, dürfte den Druck auf Regulierungen und Sicherheitsmaßnahmen in diesem Bereich erhöhen.
Im Gegensatz zu klassischen Chatbots, die lediglich Fragen beantworten, bezeichnen KI-Agenten Systeme, die Abläufe selbstständig planen und ausführen können, um ein festgelegtes Ziel zu erreichen.