Klage gegen Nutzer, der mit Grok obszöne Bilder erstellte

Das von Elon Musk geführte Unternehmen für künstliche Intelligenz, xAI, hat in den USA Klage gegen einen Nutzer eingereicht, weil dieser das Grok-System zur Erstellung illegaler sexueller Inhalte missbraucht haben soll.

In der bei einem Bundesgericht in Texas eingereichten Klage behauptet das Unternehmen, dass eine Person namens Terry Harwood versucht habe, durch das Hochladen nicht-sexueller Bilder von Erwachsenen und Minderjährigen auf Grok obszöne Deepfake-Inhalte zu generieren. Es wurde darauf hingewiesen, dass Harwood Anfang dieses Jahres in South Carolina wegen Vorwürfen des sexuellen Missbrauchs von Minderjährigen festgenommen wurde.

xAI argumentierte, dass Harwoods Handlungen gegen die Nutzungsbedingungen des Unternehmens verstoßen. Der Fall gilt als eine der ersten Klagen, die ein KI-Unternehmen gegen einen Nutzer einreicht, dem vorgeworfen wird, sein System zur Erstellung obszöner und illegaler Materialien verwendet zu haben.

Der Antrag des Unternehmens folgt auf Vorwürfe, dass Grok die Erstellung sexualisierter Deepfake-Bilder ohne Zustimmung der Betroffenen oder KI-generierter realistischer Videos ermögliche. In der Klageschrift erklärte xAI, dass es Schritte gegen Konten unternehme, die gegen seine Regeln verstoßen, wie etwa die Suspendierung oder Schließung von Konten sowie die Meldung von verdächtigem Material zu sexuellem Kindesmissbrauch an das National Center for Missing & Exploited Children (NCMEC).

In der Klageschrift wurde angegeben, dass xAI im Jahr 2026 52.222 Konten suspendiert und 73.604 Meldungen an das NCMEC übermittelt habe; diese Meldungen hätten zur Festnahme von „mindestens“ 244 Personen geführt.

Das Unternehmen behauptete zudem, dass Harwood nicht nur versucht habe, illegales Material mit Bezug auf Kinder zu erstellen, sondern auch Bilder von Erwachsenen ohne deren Zustimmung in sexualisierte Inhalte umzuwandeln.