KI-Agenten sind die Technologie des Jahres. Sie beantworten Kundenanfragen, filtern Bewerbungen, steuern Lieferketten und unterstützen Ärzte bei Diagnosen - autonom, ohne dass ein Mensch jeden Schritt freigibt. Doch ein neues Forschungspapier zeigt: Die EU-Regulierung ist auf diese Systeme nicht vorbereitet. Schlimmer noch - sie kann es in der aktuellen Form strukturell nicht sein.
Das Problem: Agenten passen in kein Kästchen
Der EU AI Act (Verordnung 2024/1689) reguliert KI-Systeme nach einem risikobasierten Ansatz: minimales Risiko, hohes Risiko, inakzeptables Risiko. Für jede Stufe gelten andere Pflichten. Das funktioniert, solange ein KI-System eine klar definierte Aufgabe hat - ein Bilderkennungsmodell, ein Chatbot, ein Empfehlungsalgorithmus.
KI-Agenten sprengen dieses Schema. Ein Agent plant eigenständig, ruft externe Werkzeuge auf, führt mehrstufige Aktionsketten aus und passt sein Verhalten an Zwischenergebnisse an. Derselbe Agent kann in einer Minute eine harmlose E-Mail formulieren und in der nächsten eine Entscheidung treffen, die unter die Hochrisiko-Kategorie fällt. Die Risikostufe ist nicht mehr statisch - sie ändert sich zur Laufzeit.
Neun Kategorien, ein Regelungsgeflecht
Das Forschungsteam um Luca Nannini hat die erste systematische Regulierungskartierung für KI-Agenten erstellt. Sie identifizieren neun Deployment-Kategorien - von Kundenservice über Personalauswahl bis zu klinischer Entscheidungsunterstützung und kritischer Infrastruktur. Für jede Kategorie zeigen sie, welche Gesetze gleichzeitig greifen:
- EU AI Act für die Risikoeinstufung und Transparenzpflichten
- DSGVO für personenbezogene Daten, die der Agent verarbeitet
- Cyber Resilience Act für die Sicherheit der Software selbst
- Digital Services Act für Plattform-Interaktionen
- NIS2-Richtlinie für kritische Infrastruktur
- Produkthaftungsrichtlinie für Schäden durch autonome Entscheidungen
Dazu kommen der Data Act, der Data Governance Act und branchenspezifische Vorschriften. In der Praxis bedeutet das: Ein Unternehmen, das einen KI-Agenten im Kundendienst einsetzt, muss mindestens sechs Verordnungen gleichzeitig einhalten - und für jede einzelne nachweisen, dass der Agent compliant ist.
Behavioral Drift: Das unlösbare Problem
Die zentrale Erkenntnis des Papers ist unangenehm: Hochrisiko-Agenten mit sogenanntem "Behavioral Drift" können die Anforderungen des AI Acts aktuell nicht erfüllen. Behavioral Drift bedeutet, dass sich das Verhalten des Agenten im laufenden Betrieb verändert - nicht durch ein geplantes Update, sondern durch die Interaktion mit seiner Umgebung, durch neue Daten, durch die Verkettung von Werkzeugaufrufen.
Der AI Act verlangt von Hochrisiko-Systemen unter anderem: Transparenz über die Entscheidungslogik, menschliche Aufsicht, Nachvollziehbarkeit. Doch wenn ein Agent sein Verhalten dynamisch anpasst und dabei Werkzeuge aufruft, die ihrerseits weitere Werkzeuge aufrufen, wird die Aktionskette nicht mehr rückverfolgbar. Der Anbieter kann nicht garantieren, was der Agent in jeder Situation tun wird - und genau das verlangt die Verordnung.
Die Zwölf-Schritte-Architektur
Das Forschungsteam schlägt eine Zwölf-Schritte-Compliance-Architektur vor, die als praktischer Leitfaden dienen soll. Der wichtigste erste Schritt klingt banal, ist aber in der Praxis selten umgesetzt: eine vollständige Inventur aller externen Aktionen des Agenten, aller Datenflüsse, aller verbundenen Systeme und aller betroffenen Personen. Ohne dieses Inventar ist jede weitere Compliance-Maßnahme Makulatur.
Die weiteren Schritte umfassen unter anderem: Regulatorische Trigger-Mappings (welche Agentenaktionen lösen welche Vorschriften aus), Runtime-Monitoring für Verhaltensänderungen, Protokollierung aller Werkzeugaufrufe und eine klare Zuordnung der Verantwortlichkeit in Multi-Anbieter-Ketten.
Was das für die Branche bedeutet
Das Paper macht ein Dilemma sichtbar: Die Technologie ist der Regulierung davongelaufen. Während Anthropic und Microsoft KI-Agenten in immer mehr Unternehmensprozesse einbauen, fehlt es an einem regulatorischen Rahmen, der die Besonderheiten autonomer, werkzeugnutzender Systeme abbildet. Die neun Agent-Kategorien und die Trigger-Mappings des Papers könnten ein Ausgangspunkt sein - aber erst wenn die EU-Standardisierungsgremien (CEN/CENELEC JTC 21) die harmonisierten Standards fertigstellen, wird es verbindliche Leitplanken geben.
Bis dahin bewegen sich Anbieter von KI-Agenten in einer regulatorischen Grauzone - und das Risiko liegt nicht bei den Agenten, sondern bei den Unternehmen, die sie einsetzen.
🎯 Was das für die Praxis bedeutet
1. Aktionsinventur jetzt starten: Wer KI-Agenten im Unternehmen einsetzt oder plant, sollte sofort eine vollständige Inventur aller Aktionen, Datenflüsse und verbundenen Systeme erstellen. Das ist die Grundlage jeder späteren Compliance-Maßnahme.
2. Sechs Verordnungen, ein Agent: AI Act allein reicht nicht. Prüfen Sie, welche Zusatzvorschriften (DSGVO, CRA, NIS2, DSA, Produkthaftung) auf Ihren konkreten Einsatzfall zutreffen. Das Paper liefert dafür eine praxisnahe Kategorie-Matrix.
3. Behavioral Drift dokumentieren: Wenn Ihre Agenten ihr Verhalten im Betrieb anpassen, müssen Sie das protokollieren und überwachen. Runtime-Monitoring ist keine Option, sondern Pflicht für Hochrisiko-Anwendungen.
4. Verantwortlichkeiten klären: In Multi-Anbieter-Ketten (Agent nutzt Tool A, das API B aufruft, die Daten von Dienst C verarbeitet) muss die Haftungskette vertraglich geregelt sein, bevor der erste Request fließt.
