Anthropics KI-Modell Mythos fand Sicherheitslücken in geheimen US-Systemen innerhalb von Stunden

Das von Anthropic entwickelte KI-Modell namens Mythos hat Berichten zufolge in einem Testlauf mit sensiblen Computersystemen der US-Regierung innerhalb weniger Stunden Sicherheitslücken aufgedeckt.

Ein US-Beamter, der gegenüber der Associated Press unter der Bedingung der Anonymität sprach, erklärte, dass das Unternehmen die Tests in Zusammenarbeit mit US-Geheimdiensten durchgeführt habe. Der Beamte betonte jedoch, dass die Tatsache, dass das Modell die Lücken in kurzer Zeit gefunden habe, nicht bedeute, dass es diese Lücken im gleichen Zeitraum auch hätte ausnutzen können.

Die Tests wurden im Rahmen der Initiative „Project Glasswing“ von Anthropic durchgeführt. Diese Initiative bringt Technologieunternehmen zusammen, die darauf abzielen, kritische Software für die öffentliche Sicherheit, die nationale Sicherheit und die Wirtschaft vor Risiken zu schützen, die durch fortschrittliche KI-Modelle entstehen könnten.

Der demokratische Senator aus Virginia, Mark Warner, hatte die Tests am 11. Juni während einer Sitzung des Banken-, Wohnungsbau- und Stadtentwicklungsausschusses des Senats erwähnt. Warner erklärte: „Dieses Werkzeug ist in unsere fast gesamten geheimen Systeme eingedrungen, und zwar in Stunden, nicht in Wochen“, und fügte hinzu, er habe diese Informationen von General Joshua Rudd, dem Leiter der NSA und des US Cyber Command, erhalten.

SPANNUNGEN MIT DER REGIERUNG

Obwohl die Tests die Zusammenarbeit zwischen US-Behörden und Anthropic belegen, gibt es Spannungen zwischen dem Unternehmen und der Trump-Regierung hinsichtlich des Einsatzes von KI in militärischen und nationalen Sicherheitsbereichen. Die Regierung erließ diesen Monat eine Anweisung, die den Zugriff ausländischer Staatsangehöriger auf die Modelle Fable 5 und Mythos 5 von Anthropic untersagt.

Diese Anweisung erfolgte 10 Tage nach einem Dekret von Präsident Donald Trump, das es ermöglicht, fortschrittlichste KI-Systeme vor ihrer öffentlichen Freigabe auf Risiken für die nationale Sicherheit zu prüfen. In dem Dekret wurde festgehalten, dass die Teilnahme von Unternehmen an diesem Prozess auf freiwilliger Basis erfolgen würde.

Anthropic gab bekannt, dass es die entsprechenden Modelle für alle Kunden deaktiviert habe, um der Anweisung Folge zu leisten. Das Unternehmen ist jedoch der Ansicht, dass die Schritte der Regierung nicht ausreichen, um die von ihr selbst geäußerten Sicherheitsbedenken zu rechtfertigen.

Unternehmensvertreter, darunter Führungskräfte von Adobe und Nvidia, sowie über 100 Cybersicherheitsexperten forderten in einem Brief an die Regierung die Aufhebung der Anweisung. Die Unterzeichner argumentierten, dass die Mythos-Modelle zwar leistungsstark darin seien, Softwarefehler zu finden und Lücken in Angriffswerkzeuge umzuwandeln, in diesem Bereich jedoch nicht einzigartig seien.

In dem Brief wurde zudem gewarnt, dass die Deaktivierung leistungsstarker Cyber-Verteidigungswerkzeuge „ohne triftigen Grund“ in einer Zeit, in der die Konkurrenten der USA rasante Fortschritte machen, gefährlich sein könnte.

Nachrichtenquelle: 12punto