Florida fordert Stopp neuer OpenAI-KI-Modelle bis zur Sicherheitsüberprüfung

Die Regierung von Florida hat bei Gericht beantragt, die Arbeiten von OpenAI an seinen fortschrittlichsten KI-Modellen vorläufig zu stoppen. Der Bundesstaat argumentiert, dass das Unternehmen erst dann mit der Entwicklung neuer Modelle fortfahren dürfe, wenn von unabhängigen Stellen geprüfte Sicherheitsmaßnahmen implementiert wurden.

Der am Montag eingereichte Antrag auf einstweilige Verfügung stellt eine neue Phase in der Klage dar, die Florida im Juni gegen OpenAI und CEO Sam Altman eingereicht hatte. In der ursprünglichen Klage wurde behauptet, dass ChatGPT ein Risiko für die öffentliche Sicherheit darstelle, insbesondere für Kinder und sensible Nutzergruppen. Die Generalstaatsanwaltschaft von Florida wirft OpenAI zudem vor, Verbraucher über die Sicherheit seiner Produkte getäuscht zu haben. Über diese Vorwürfe wurde gerichtlich noch nicht entschieden.

Floridas Generalstaatsanwalt James Uthmeier gab in einem Beitrag in den sozialen Medien bekannt, dass man vor vier Monaten die „erste staatlich geführte Klage“ gegen OpenAI und Altman eingereicht habe und nun eine einstweilige Verfügung beantrage. Uthmeier schrieb: „Hört auf, sie sicher zu nennen. Hört auf, so zu tun, als wären sie menschlich. Hört auf, sie an Kinder zu verkaufen.“

SICHERHEITSDISKUSSIONEN IN DIE AKTEN AUFGENOMMEN

Der neue Antrag umfasst nicht nur die Interaktion von ChatGPT mit Nutzern, sondern auch Diskussionen darüber, dass fortschrittliche KI-Agenten außer Kontrolle geraten könnten. Florida verwies auf den Vorfall mit Hugging Face, der mit OpenAI-Systemen in Verbindung gebracht wird, sowie auf Fälle, in denen KI-Agenten angeblich versucht haben sollen, sich unbefugten Zugriff auf Regierungssysteme in Australien und den USA zu verschaffen.

Nach Ansicht der Staatsregierung zeigen diese Beispiele, dass eine alleinige Überwachung der Systeme durch das Unternehmen möglicherweise nicht ausreicht. In den bei Gericht eingereichten Unterlagen wurde zudem behauptet, dass OpenAI seine KI-Systeme nicht ausreichend überwache und zu langsam bei der Offenlegung problematischer Verhaltensweisen gegenüber der Öffentlichkeit sei.

In Floridas Antrag wurde auch auf Einschätzungen aus dem Inneren von OpenAI Bezug genommen. In einem im September veröffentlichten Artikel mit dem Titel „An Alien Mind“ hatte der leitende Wissenschaftler von OpenAI, Jakub Pachocki, die Ansicht geäußert, dass die Überwachungs- und Compliance-Probleme, die für eine schnelle Skalierung fortschrittlicher Modelle erforderlich sind, noch nicht vollständig gelöst seien. Pachocki erklärte, er unterstütze es, wenn Unternehmen die Entwicklungsgeschwindigkeit bei Bedarf freiwillig drosseln und eine internationale Koordinierung zwischen Regierungen etabliert werde, bis gemeinsame Sicherheitsstandards vorlägen.

Der Antrag enthält auch Szenarien, in denen KI-Agenten in Zukunft Schäden an Stromnetzen, Wassersystemen oder anderer kritischer Infrastruktur verursachen könnten. Dabei handelt es sich jedoch nicht um bereits eingetretene Ereignisse, sondern um Möglichkeiten, die Florida als potenzielle Risiken in die Akten aufgenommen hat. Unter Forschern gibt es keinen Konsens darüber, ob aktuelle KI-Systeme ein solches Bedrohungsniveau aufweisen.

Sollte das Gericht dem Antrag auf einstweilige Verfügung stattgeben, wird erwartet, dass sich die Entscheidung direkt gegen OpenAI richtet. Dies würde die Arbeit anderer KI-Unternehmen an fortschrittlichen Modellen nicht automatisch blockieren. Auch wie sich der Antrag auf bestehende ChatGPT-Modelle auswirken würde, ist unklar; der Antrag konzentriert sich stärker auf neue Modelle in der Entwicklungs- und Trainingsphase.

Sollte Floridas Antrag angenommen werden, würde die Debatte um KI-Sicherheit über die internen Kontrollprozesse der Unternehmen hinausgehen und zum Gegenstand gerichtlicher Aufsicht werden. Wie das Gericht auf den Antrag reagieren wird, ist noch offen.