Angreifer nutzen längst hochmoderne KI-Modelle für automatisierte Exploits - Cyber-Verteidiger stehen nun vor der Frage, wie sie Schritt halten können. Um zu verhindern, dass die Absicherung kritischer Infrastrukturen von wenigen geschlossenen Cloud-Systemen abhängt, haben NVIDIA und über 30 führende Branchenakteure die Open Secure AI Alliance ins Leben gerufen. Das Bündnis verfolgt das Ziel, einen offen einsehbaren, kontrollierbaren Abwehr-Stack aus KI-Modellen, Agent-Harnesses und Sicherheitswerkzeugen zu entwickeln.
Zu den Gründungsmitgliedern zählen neben NVIDIA unter anderem Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palo Alto Networks, Databricks, Hugging Face, SAP und die Linux Foundation. Die Allianz versteht sich als Antwort auf ein drängendes Problem: Bei komplexen Sicherheitsvorfällen stoßen proprietäre Cloud-KIs häufig an Grenzen, wenn Sicherheitsrichtlinien der Anbieter forensische Analysen oder automatisierte Reaktionsmaßnahmen blockieren.
Das Hugging-Face-Schlüsselerlebnis: Warum geschlossene Systeme versagten
Wie NVIDIA-CEO Jensen Huang auf X erläutert, gab ein konkreter Sicherheitsvorfall bei Hugging Face den Ausschlag für die Allianzgründung. Als Angreifer versuchten, Plattformstrukturen zu kompromittieren, verweigerten geschlossene KI-Tools die Mitarbeit bei der forensischen Ursachenanalyse, da automatisierte Schutzfilter die Untersuchung von Schadcode blockierten. Erst der Einsatz des frei verfügbaren Open-Weight-Modells GLM 5.2 auf eigenen Servern habe es dem Hugging-Face-Team erlaubt, mehr als 17.000 Aktionen autonom zu analysieren und den Einbruch zügig einzudämmen.
Die Lehre aus dem Incident laut Allianz: Verteidiger benötigen die Freiheit, leistungsfähige KI-Modelle auf eigener Infrastruktur auszuführen, anzupassen und auditieren zu können. Geschlossene Systeme böten zwar hohen Komfort, erzeugten im Ernstfall jedoch einen Single Point of Failure.
Der offene Agenten-Stack: NOOA, Safetensors und MDASH
Sicherheit bei KI-Agenten hänge nicht allein von den Modellgewichten ab, sondern vom gesamten Software-System aus Identitätsvergabe, Berechtigungen, Testumgebungen und Leitplanken. Daher bringen die Allianzzahlreiche Open-Source-Beiträge in das Projekt ein:
- NVIDIA NOOA (Object-Oriented Agent): NVIDIA stellt ein neues Open-Source-Framework auf GitHub bereit, das das Verhalten autonomer Agenten transparenter testbar, nachvollziehbar und steuerbar machen soll.
- Safetensors & SPIFFE/SPIRE: Hugging Face übergibt das sichere Modellformat Safetensors an die PyTorch Foundation, während HPE kryptografische Zero-Trust-Standards einbringt, um KI-Agenten im Unternehmensnetz eindeutig zu authentifizieren.
- Microsoft MDASH & Red Hat Lightwell: Microsoft steuert ein Multi-Modell-Scanner-System bei, das spezialisierte KI-Agenten zur automatischen Schwachstellensuche orchestriert. Red Hat und IBM sichern die Open-Source-Lieferkette über digital signierte Patches ab.
Die Allianzteilnehmer bitten Regulierer und Politik nachdrücklich darum, offene KI-Modelle und Sicherheitswerkzeuge in kommenden Gesetzgebungen wie der US-Debatte um Not-Aus-Schalter und Open-Source-Modelle als essenzielle Verteidigungsgüter einzustufen, statt pauschale Verbote oder Exportbeschränkungen für Modellgewichte zu verhängen.
🎯 Was das für die Praxis bedeutet
1. Auf Open-Weight-Erkundung setzen: Unternehmen sollten Cyber-Abwehrsysteme nicht ausschließlich von geschlossenen Cloud-APIs abhängig machen.
2. Standardisierte Agent-Harnesses prüfen: Frameworks wie NOOA erhöhen die Prüfbarkeit und Auditing-Fähigkeit eigener KI-Agenten.
3. Zero-Trust für KI-Agenten etablieren: Autonome Agenten im Unternehmensnetz müssen über kryptografische Identitäten verifiziert und isoliert werden.
