KI-Agenten sind die Technologie des Jahres. Sie beantworten Kundenanfragen, filtern Bewerbungen, steuern Lieferketten und unterstützen Ärzte bei Diagnosen - autonom, ohne dass ein Mensch jeden Schritt freigibt. Doch ein neues Forschungspapier zeigt: Die EU-Regulierung ist auf hochautonome, agentische Systeme nur unzureichend vorbereitet. In der aktuellen Form ist eine vollständige und praxistaugliche Compliance bei dynamischem Agentenverhalten extrem aufwändig - und teilweise technisch noch nicht vollständig lösbar.
Das Grundproblem ist struktureller Natur: Der EU AI Act wurde in einer Zeit verhandelt, in der universell einsetzbare KI-Agenten schlicht nicht auf dem Schirm waren. Während international immer mehr Unternehmen ihre Organisation AI-native umbauen und Agenten quer durch alle Abteilungen einsetzen, fehlt in Europa der regulatorische Rahmen dafür. Das Omnibus VII-Paket verschiebt zwar wesentliche Fristen, adressiert dieses strukturelle Defizit aber nicht.
Das Problem: Agenten passen in kein Kästchen
Der EU AI Act (Verordnung 2024/1689) reguliert KI-Systeme nach einem risikobasierten Ansatz in vier Stufen: minimales Risiko, begrenztes Risiko (Transparenzpflichten), hohes Risiko (strenge Auflagen) und inakzeptables Risiko (Verbot). Für jede Stufe gelten andere Pflichten. Das funktioniert, solange ein KI-System eine klar definierte Aufgabe hat - ein Bilderkennungsmodell, ein Chatbot, ein Empfehlungsalgorithmus.
KI-Agenten sprengen dieses Schema. Ein Agent plant eigenständig, ruft externe Werkzeuge auf, führt mehrstufige Aktionsketten aus und passt sein Verhalten an Zwischenergebnisse an. Derselbe Agent kann in einer Minute eine harmlose E-Mail formulieren und in der nächsten eine Entscheidung treffen, die unter die Hochrisiko-Kategorie fällt. Die Risikostufe ist nicht mehr statisch - sie ändert sich zur Laufzeit.
Neun Kategorien, ein Regelungsgeflecht
Das Forschungsteam um Luca Nannini hat die erste systematische Regulierungskartierung für KI-Agenten erstellt. Sie identifizieren neun Deployment-Kategorien - von Kundenservice über Personalauswahl bis zu klinischer Entscheidungsunterstützung und kritischer Infrastruktur. Für jede Kategorie zeigen sie, welche Gesetze gleichzeitig greifen:
- EU AI Act für die Risikoeinstufung und Transparenzpflichten
- DSGVO für personenbezogene Daten, die der Agent verarbeitet
- Cyber Resilience Act für die Sicherheit der Software selbst
- Digital Services Act für Plattform-Interaktionen
- NIS2-Richtlinie für kritische Infrastruktur
- Produkthaftungsrichtlinie für Schäden durch autonome Entscheidungen
Dazu kommen der Data Act, der Data Governance Act und branchenspezifische Vorschriften. In der Praxis bedeutet das: Ein Unternehmen, das einen KI-Agenten im Kundendienst einsetzt, muss mindestens sechs Verordnungen gleichzeitig einhalten - und für jede einzelne nachweisen, dass der Agent compliant ist.
Behavioral Drift: Das unlösbare Problem
Die zentrale Erkenntnis des Papers ist unangenehm: Hochrisiko-Agenten mit sogenanntem "Behavioral Drift" können die Anforderungen des AI Acts in der Praxis derzeit nur mit erheblichen Zusatzmaßnahmen erfüllen. Behavioral Drift bedeutet, dass sich das Verhalten des Agenten im laufenden Betrieb verändert - nicht durch ein geplantes Update, sondern durch die Interaktion mit seiner Umgebung, durch neue Daten, durch die Verkettung von Werkzeugaufrufen.
Der AI Act verlangt von Hochrisiko-Systemen unter anderem: Transparenz über die Entscheidungslogik, menschliche Aufsicht, Nachvollziehbarkeit. Doch wenn ein Agent sein Verhalten dynamisch anpasst und dabei Werkzeuge aufruft, die ihrerseits weitere Werkzeuge aufrufen, wird die Aktionskette nicht mehr rückverfolgbar. Der Anbieter kann nicht garantieren, was der Agent in jeder Situation tun wird - und genau das verlangt die Verordnung.
Die Zwölf-Schritte-Architektur
Das Forschungsteam schlägt eine Zwölf-Schritte-Compliance-Architektur vor, die als praktischer Leitfaden dienen soll. Der wichtigste erste Schritt klingt banal, ist aber in der Praxis selten umgesetzt: eine vollständige Inventur aller externen Aktionen des Agenten, aller Datenflüsse, aller verbundenen Systeme und aller betroffenen Personen. Ohne dieses Inventar greifen alle weiteren Compliance-Maßnahmen ins Leere.
Die weiteren Schritte umfassen unter anderem: Regulatorische Trigger-Mappings (welche Agentenaktionen lösen welche Vorschriften aus), Runtime-Monitoring für Verhaltensänderungen, Protokollierung aller Werkzeugaufrufe und eine klare Zuordnung der Verantwortlichkeit in Multi-Anbieter-Ketten.
Was das für die Branche bedeutet
Das Paper macht ein Dilemma sichtbar: Die Technologie entwickelt sich schneller als die Regulierung nachziehen kann. Während Anthropic und Microsoft KI-Agenten in immer mehr Unternehmensprozesse einbauen, fehlt es an einem regulatorischen Rahmen, der die Besonderheiten autonomer, werkzeugnutzender Systeme abbildet. Mit dem Omnibus und den laufenden Arbeiten der Standardisierungsgremien (CEN/CENELEC JTC 21) versucht die EU aufzuholen - aber bis die harmonisierten Standards fertig sind, bleibt eine erhebliche Lücke.
Bis dahin bewegen sich Anbieter von KI-Agenten in einer regulatorischen Grauzone - und das Risiko liegt nicht bei den Agenten, sondern bei den Unternehmen, die sie einsetzen.
🎯 Was das für die Praxis bedeutet
1. Aktionsinventur jetzt starten: Wer KI-Agenten im Unternehmen einsetzt oder plant, sollte sofort eine vollständige Inventur aller Aktionen, Datenflüsse und verbundenen Systeme erstellen. Das ist die Grundlage jeder späteren Compliance-Maßnahme.
2. Sechs Verordnungen, ein Agent: AI Act allein reicht nicht. Prüfen Sie, welche Zusatzvorschriften (DSGVO, CRA, NIS2, DSA, Produkthaftung) auf Ihren konkreten Einsatzfall zutreffen. Das Paper liefert dafür eine praxisnahe Kategorie-Matrix.
3. Behavioral Drift dokumentieren: Wenn Ihre Agenten ihr Verhalten im Betrieb anpassen, müssen Sie das protokollieren und überwachen. Runtime-Monitoring ist keine Option, sondern Pflicht für Hochrisiko-Anwendungen.
4. Verantwortlichkeiten klären: In Multi-Anbieter-Ketten (Agent nutzt Tool A, das API B aufruft, die Daten von Dienst C verarbeitet) muss die Haftungskette vertraglich geregelt sein, bevor der erste Request fließt.
5. Spezialisierten Rechtsanwalt einbeziehen: KI-Recht in der EU ist neu, komplex und ohne etablierte Rechtsprechung. Wer Agenten produktiv einsetzt, sollte frühzeitig einen auf KI- und Technologierecht spezialisierten Anwalt hinzuziehen - nicht erst, wenn die erste Abmahnung kommt.
Anzeige
KI-Recht in der EU (AI Act / KI-Verordnung)
Alle Vorgaben und die KI-Kompetenzpflicht der europäischen KI-Verordnung verstehen und umsetzen – jetzt mit Omnibus VII Vorschau
EU AI Act, Risikoklassen, Behavioral Drift, Compliance-Pflichten: Was in diesem Artikel als regulatorische Lücke beschrieben wird, ordnet Markus Kirchmair in diesem Buch systematisch ein. Mit Compliance-Checklisten, DSGVO-Schnittstellen und der aktuellen Omnibus-VII-Vorschau – Stand 2026.
Bei Amazon ansehen →Eigenes Buch · Affiliate-Link
Hinweis: Dieser Artikel gibt die Einschätzung des Autors auf Basis des zitierten Forschungspapiers und öffentlich zugänglicher Quellen wieder. Die beschriebene Rechtslage rund um KI-Agenten im EU-Recht ist neu und bislang ohne einschlägige Rechtsprechung. Dieser Beitrag stellt keine Rechtsberatung dar. Für konkrete rechtliche Fragen zu KI-Compliance konsultieren Sie bitte einen spezialisierten Rechtsanwalt.
