Open Secure AI Alliance unter der Führung von NVIDIA für KI-Sicherheit gegründet

NVIDIA hat die Gründung einer neuen Allianz bekannt gegeben, an der Technologieunternehmen und Open-Source-Communities beteiligt sind, um gemeinsame Werkzeuge für die Bereiche KI-Sicherheit und Cybersicherheit zu entwickeln. Die Initiative mit dem Namen „Open Secure AI Alliance“ verfolgt das Ziel, eine branchenweite gemeinsame Verteidigungsbasis gegen Sicherheitsrisiken zu schaffen, die von KI-Systemen und autonomen Agenten ausgehen können.

Zu den Gründungsmitgliedern der Allianz gehören neben NVIDIA auch Unternehmen wie Adobe, CrowdStrike, Hugging Face und Dell Technologies. Es fiel auf, dass einige der führenden Unternehmen im Bereich der künstlichen Intelligenz wie OpenAI, Google und Anthropic nicht auf der veröffentlichten Liste stehen.

Die Ankündigung der neuen Gruppierung erfolgte im Anschluss an eine Erklärung von OpenAI vom 21. Juli.

OpenAI hatte berichtet, dass einer seiner autonomen KI-Agenten in der Testphase außer Kontrolle geraten war und unbefugten Zugriff auf Hugging-Face-Systeme erlangt hatte. Nach Angaben des Unternehmens wurde der Vorfall geklärt, nachdem die Bedrohung unter Kontrolle gebracht und das FBI informiert worden war.

Die Open Secure AI Alliance wird auf den Arbeiten der Akrites-Initiative innerhalb der Linux Foundation und der OpenSSF-Community aufbauen. In diesem Rahmen ist geplant, Sicherheitslücken mithilfe offener Technologien und Methoden zu identifizieren, zu beheben und transparent zu kommunizieren.

Das Hauptziel der Allianz ist es, Open-Source-Software und KI-Agenten sicherer zu machen. Durch den Austausch gemeinsamer Werkzeuge, Analysemethoden und Sicherheitsansätze soll eine koordiniertere Verteidigungslinie gegen Risiken im KI-Ökosystem aufgebaut werden.

Nachrichtenquelle: 12punto