NVIDIA und eine breite Gruppe von Technologieunternehmen und Open-Source-Organisationen haben die Open Secure AI Alliance gegründet. Ziel ist es, offene Technologien und Werkzeuge zu entwickeln und gemeinsam zu nutzen, die Verteidigern helfen, Software und intelligente Agenten angesichts der zunehmenden Nutzung künstlicher Intelligenz zu schützen. Die Allianz stützt sich auf Initiativen der Linux Foundation, darunter die Akrites-Initiative und die Arbeiten der OpenSSF, und konzentriert sich darauf, Schwachstellen mithilfe offener Technologien zu beheben und offenzulegen.
Der Allianz gehören Gründungspartner aus den Bereichen Cloud Computing, Cybersicherheit, Unternehmenssoftware und KI-Forschung an, darunter NVIDIA, Adobe, Akamai, Amazon, Atlassian, Cisco, Cloudflare, CrowdStrike, Dell Technologies, Docker, GitHub und Google?
Offenheit als Verteidigungsinstrument
Die Allianz ist der Ansicht, dass die Cyberabwehr offene Modelle und offene Betriebswerkzeuge benötigt, da diese es Verteidigern ermöglichen, Systeme zu prüfen, anzupassen und auf ihrer eigenen Infrastruktur zu betreiben, während sie Daten schützen und die Abhängigkeit von einem einzelnen Anbieter verringern. Dem Beitrag zufolge können diese Werkzeuge fortschrittliche geschlossene Modelle ergänzen, indem sie anpassbare Kontrollen bereitstellen, die für lokale Umgebungen geeignet sind.
NVIDIA räumt ein, dass offene Modelle wie jede leistungsfähige Technologie missbraucht werden können, etwa indem Schutzmaßnahmen geschwächt oder die Modelle für Cyberangriffe umgenutzt werden. Der Beitrag argumentiert jedoch, dass diese Risiken nicht auf offene Systeme beschränkt sind und dass das Geschlossenhalten der Modellgewichte entschlossene Angreifer nicht daran hindert, zu versuchen, auf fortschrittliche Fähigkeiten zuzugreifen oder sie auszunutzen.
Der Beitrag verweist auf einen jüngsten Sicherheitsvorfall bei Hugging Face und erklärt, dass das Unternehmen ein Modell GLM 5.2 mit offenen Gewichten auf seiner Infrastruktur eingesetzt habe, um mehr als 17.000 Vorgänge zu analysieren und den Angriff einzudämmen, nachdem geschlossene KI-Werkzeuge die forensische Analyse behindert hätten, weil sie nicht zwischen Angreifern und Verteidigern unterscheiden konnten. NVIDIA nutzt diesen Vorfall, um die Bedeutung zu verdeutlichen, dass Verteidiger über fortschrittliche Systeme verfügen, die geprüft, angepasst und intern betrieben werden können.
Beiträge von NVIDIA und Schutzkomponenten
NVIDIA erklärte, dass das Unternehmen offene Modelle, Modellgewichte, Daten und neue Forschung zu Betriebsframeworks für Agenten in die Allianz einbringe. Außerdem stellte NVIDIA das Open-Source-Projekt NVIDIA Labs Object-Oriented Agent (NOOA) auf GitHub bereit. Dabei handelt es sich um ein Forschungsframework, das Betriebsframeworks für Agenten dabei unterstützen soll, sich besser in Modelle zu integrieren, sodass sich das Verhalten der Agenten leichter testen, nachverfolgen, prüfen und steuern lässt.
Die Teilnehmer arbeiten am Aufbau eines offenen Verteidigungsökosystems für Agenten, das Identität und Isolation, sichere Modellformate, die Prüfung durch mehrere Modelle und sichere Programmier-Workflows umfasst. Als Beispiele nennt der Beitrag den Beitrag von HPE zu SPIFFE/SPIRE zur kryptografischen Überprüfung der Identitäten von Agenten und Diensten sowie die Bereitstellung des Safetensors-Formats durch Hugging Face für die PyTorch Foundation. Dieses Format dient zur Speicherung von Modellgewichten und bietet Schutzmaßnahmen gegen die Ausführung von Remote-Code.
Aufruf zum Aufbau gemeinsamer Infrastruktur
NVIDIA rief Regierungen, Unternehmen und Forscher dazu auf, in eine offene Infrastruktur für KI-gestützte Verteidigung zu investieren, etwa in Datensätze, Bewertungsframeworks, Angriffssimulatoren und Werkzeuge für offensive Tests. Außerdem forderte NVIDIA politische Entscheidungsträger und Regulierungsbehörden auf, offene Modelle, Betriebsframeworks und Sicherheitswerkzeuge als Verteidigungsressourcen zu behandeln. Zugleich warnte das Unternehmen, dass umfassende Beschränkungen für offene KI-Systeme die Verteidigungsfähigkeit schwächen und die Abhängigkeit bei einer begrenzten Zahl geschlossener Anbieter konzentrieren könnten.