KI-Modelle können sowohl für Angriffe als auch für die Cyber-Abwehr eingesetzt werden. NVIDIA und zahlreiche Branchenakteure haben die Open Secure AI Alliance vorgestellt. Das Bündnis will einen offen einsehbaren und kontrollierbaren Abwehr-Stack aus KI-Modellen, Agent-Harnesses und Sicherheitswerkzeugen entwickeln.
Zu den Gründungsmitgliedern zählen neben NVIDIA unter anderem Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palo Alto Networks, Databricks, Hugging Face, SAP und die Linux Foundation. Nach Darstellung der Allianz können Schutzregeln proprietärer Cloud-KI bei bestimmten forensischen Analysen oder automatisierten Reaktionsmaßnahmen Grenzen setzen. Das ist die Begründung des Bündnisses, keine allgemein bewiesene Schwäche geschlossener Systeme.
Das Hugging-Face-Schlüsselerlebnis: Warum geschlossene Systeme versagten
Der NVIDIA-Beitrag nennt den Sicherheitsvorfall bei Hugging Face als wichtiges Beispiel. Nach Darstellung der Beteiligten blockierten Schutzfilter mancher geschlossener KI-Tools Teile der forensischen Analyse. Das Hugging-Face-Team setzte daraufhin unter anderem das offene Modell GLM 5.2 auf eigener Infrastruktur ein, um rund 17.000 protokollierte Aktionen auszuwerten. Diese Darstellung belegt einen konkreten Nutzen, nicht ein generelles Versagen aller geschlossenen Systeme.
Die Allianz leitet daraus ab, dass Verteidiger Modelle auf eigener Infrastruktur ausführen, anpassen und prüfen können sollten. Die Behauptung eines generellen „Single Point of Failure“ bei geschlossenen Systemen wäre weitergehend und wird deshalb nicht als feststehende Tatsache übernommen.
Der offene Agenten-Stack: NOOA, Safetensors und MDASH
Sicherheit bei KI-Agenten hängt nicht allein von Modellgewichten ab, sondern vom gesamten Software-System aus Identitäten, Berechtigungen, Testumgebungen und Leitplanken. Die Allianzteilnehmer bringen dafür mehrere Open-Source-Beiträge ein:
- NVIDIA NOOA (Object-Oriented Agent): NVIDIA stellt ein neues Open-Source-Framework auf GitHub bereit, das das Verhalten autonomer Agenten transparenter testbar, nachvollziehbar und steuerbar machen soll.
- Safetensors & SPIFFE/SPIRE: Hugging Face übergibt das sichere Modellformat Safetensors an die PyTorch Foundation, während HPE kryptografische Zero-Trust-Standards einbringt, um KI-Agenten im Unternehmensnetz eindeutig zu authentifizieren.
- Microsoft MDASH & Red Hat Lightwell: Microsoft steuert ein Multi-Modell-Scanner-System bei, das spezialisierte KI-Agenten zur automatischen Schwachstellensuche orchestriert. Red Hat und IBM sichern die Open-Source-Lieferkette über digital signierte Patches ab.
Der NVIDIA-Beitrag verbindet die technische Initiative mit der politischen Position, offene Modelle und Sicherheitswerkzeuge nicht durch pauschale Beschränkungen zu behindern. Diese Forderung stammt von den Allianzteilnehmern; sie ist keine Empfehlung der Redaktion an Regulierer. Die praktische Spannung zeigt auch die US-Debatte um Not-Aus-Schalter und Open-Weights-Modelle.
🎯 Was das für die Praxis bedeutet
1. Betriebsmodelle vergleichen: Unternehmen können prüfen, ob für sensible forensische Aufgaben lokale oder anpassbare Modelle zusätzlich zu geschlossenen Cloud-APIs sinnvoll sind.
2. Agent-Harnesses prüfen: Frameworks wie NOOA sollen die Prüfbarkeit eigener KI-Agenten verbessern. Teams sollten diese Anbieterangabe mit eigenen Tests bewerten.
3. Identitäten und Isolation prüfen: Bei Agenten im Unternehmensnetz sollten Berechtigungen, kryptografische Identitäten und technische Isolation Teil des Sicherheitskonzepts sein.
