Anthropic-Bericht: Claude wurde für Waffensoftware, Cyberoperationen und Desinformation missbraucht

Das Unternehmen für künstliche Intelligenz, Anthropic, hat berichtet, dass Claude-Modelle von verschiedenen Akteuren in Bereichen missbraucht wurden, die von der Entwicklung konventioneller Waffen über Cyberoperationen und Überwachung bis hin zu Betrug reichen.

Der Bericht des Unternehmens zur Erkennung und Verhinderung des Missbrauchs seiner Modelle deckt den Zeitraum von Dezember 2025 bis August 2026 ab. Dem Bericht zufolge nutzten Gruppen, bei denen ein staatlicher Hintergrund vermutet wird, kriminelle Akteure mit finanziellen Interessen sowie Institutionen, die mit Propagandatätigkeiten in Verbindung stehen, Modelle wie Claude Haiku, Sonnet und Opus.

Anthropic gab bekannt, dass in den identifizierten Fällen die Konten gesperrt wurden und in einigen Fällen die gewonnenen Informationen mit öffentlichen Institutionen und Organisationen des Privatsektors geteilt wurden.

WAFFENSOFTWARE UND CYBEROPERATIONEN

Einer der bemerkenswertesten Abschnitte des Berichts betrifft die Feststellungen, dass Claude bei der Entwicklung von Software im Zusammenhang mit konventionellen Waffen eingesetzt wurde. Laut Anthropic wurden Versuche identifiziert, die sich auf Ziel- und Steuerungssoftware für Schusswaffen, Raketen, bewaffnete unbemannte Luftfahrzeuge, Bomben und andere Munition beziehen.

Das Threat-Intelligence-Team des Unternehmens untersuchte eine Vielzahl von Akteuren, die Claude im vergangenen Jahr nutzten, um Software für das Waffendesign und die -entwicklung zu erstellen oder um nachrichtendienstliche Aktivitäten und Beschaffungsvorgänge zu unterstützen, die den Boden für Waffenprogramme bereiteten. Im Bericht wurde festgehalten, dass drei dieser Akteure in China, zwei in Russland und einer im Jemen ansässig waren.

Anthropic teilte mit, dass eine im Norden des Jemen operierende Gruppe Claude Code in drei verschiedenen Waffenentwicklungsprogrammen verwendet habe, die gelenkte Raketen und verschiedene Flugkörper umfassten. Dem Bericht zufolge nutzte die Gruppe das Modell für Software zur Fahrzeugsteuerung, Navigation und Stabilisierung sowie für Simulations- und Testprozesse. Das Unternehmen betonte jedoch, dass es keine Beweise dafür gefunden habe, dass die Gruppe erfolgreich eine einsatzfähige Waffe entwickelt habe.

In einem anderen Fall wurde berichtet, dass ein in China ansässiger Akteur Claude zur Entwicklung eines Anti-Torpedosystems einsetzte. Es wurde angegeben, dass der Akteur das Modell nutzte, um Teile der Feuerleitsoftware zu entwickeln, Testpläne zu erstellen und das System mit den Anti-Torpedo- und U-Boot-Abwehrprogrammen der USA zu vergleichen. Anthropic bewertete die Aktivität als mit einem Hersteller aus der chinesischen Verteidigungsindustrie verbunden.

Der Bericht enthielt auch Beispiele für Cyberoperationen. Es wurde angegeben, dass bei russisch verknüpften Spionageaktivitäten hauptsächlich militärische Geheimdienste in der Ukraine und bei europäischen Regierungen ins Visier genommen wurden. Akteure, von denen angenommen wird, dass sie in China leben, hätten Versuche unternommen, in Produktionssysteme einzudringen, und Aufklärungsaktivitäten gegen ausländische Regierungsnetzwerke im Nahen Osten, in Europa und in Südostasien durchgeführt.

VORWÜRFE ZU ÜBERWACHUNG, BETRUG UND MODELLKOPIERUNG

In Anthropic's Bericht wurden Überwachungsaktivitäten unter einer eigenen Überschrift untersucht. Es wurde angegeben, dass ein Konto, das im Juni 2026 den Iran und die Region des Persischen Golfs ins Visier nahm, eine Überwachungsplattform eingerichtet hatte, um die Social-Media-Aktivitäten der Nutzer in der Region zu analysieren, zu klassifizieren und Profile zu erstellen. Es wurde bekannt gegeben, dass das betreffende Konto gesperrt wurde.

Das Unternehmen gab an, dass die Untersuchung ergeben habe, dass das Konto von oder im Namen einer Organisation namens „S2T Unlocking Cyberspace“ betrieben wurde. Open-Source-Recherchen deuteten darauf hin, dass es sich bei der Organisation um einen Geheimdienstanbieter mit Ursprung in Israel und Singapur handele.

In einem weiteren Überwachungsbeispiel aus China wurde Claude als automatisiertes Instrument zur „Überwachung der öffentlichen Meinung“ eingesetzt. Dem Bericht zufolge nutzte der Nutzer das Modell, um Regierungsbriefings zu erstellen, die Dissidenten, Aktivisten, ethnische Minderheiten, die chinesische Diaspora und ausländische Medien als Bedrohungen für die politische Stabilität klassifizierten.

Unter der Rubrik Betrug wurde berichtet, dass ein in China ansässiges App-Studio mit Hilfe von Claude ein Netzwerk aus mehr als 20 Dating-Apps aufgebaut habe. Im Bericht wurde festgestellt, dass trotz der Behauptung, die Dienste würden vollständig von Menschen erbracht, KI-Charaktere entwickelt wurden, die mit den Nutzern chatteten. Es wurde vermerkt, dass mehr als 4.700 KI-Charaktere identifiziert wurden, die innerhalb von zwei Wochen mit mindestens 25.000 Personen gechattet hatten.

Der Bericht enthielt auch Beispiele für die „Destillationsmethode“, bei der die Ausgaben fortschrittlicherer KI-Modelle genutzt werden, um ein Modell mit geringerer Kapazität zu trainieren. Anthropic erklärte, dass diese Methode eine gängige Trainingstechnik im Bereich der KI sei, jedoch illegal werde, wenn sie das Ziel verfolge, andere Modelle unbefugt zu kopieren.

Das Unternehmen behauptete, dass Akteure mit Verbindungen zu Alibaba versucht hätten, die Fähigkeiten der Modelle auf illegalem Wege zu kopieren, und dass dies der bisher größte registrierte „illegale Destillationsangriff“ sei. Im Bericht wurde behauptet, dass täglich etwa 3 Millionen Transaktionen von über 3.500 gefälschten Konten durchgeführt wurden.

Anthropic teilte zudem Beispiele zu Moonshot AI, DeepSeek und Xiaomi. Während angegeben wurde, dass Moonshot einige Nutzeranfragen an Claude statt an das eigene Modell Kimi weiterleitete, hieß es im Bericht: „Die Nutzer dachten, sie würden das Kimi-Modell verwenden, erhielten aber tatsächlich Antworten von Claude.“ Es wurde behauptet, dass DeepSeek seine Kunden in ähnlicher Weise ohne Information an Claude weiterleitete und Xiaomi Nutzer-Chats von MiMo-Modellen an Claude übertrug.

Im Abschnitt über Einflussoperationen wurde auf Netzwerke aufmerksam gemacht, die über gefälschte Social-Media-Profile und Nachrichtenseiten irreführende Inhalte produzierten. Anthropic gab bekannt, dass eine russisch verknüpfte Informationsmanipulationsoperation in der Zentralafrikanischen Republik sowie ein kommerzielles Desinformationsnetzwerk, das von einer in Frankreich ansässigen digitalen Werbeagentur betrieben wurde, identifiziert und entfernt wurden.

Nachrichtenquelle: 12punto