Legal Exploits: Wie LLMs systematisch Schwachstellen in Gesetzen aufspüren

Gesetze und behördliche Verordnungen bilden das verbindliche Betriebssystem moderner Gesellschaften. Doch genau wie Softwarecode, der von Menschenhand geschrieben wird, ist auch juristischer Text keineswegs fehlerfrei. Gesetze enthalten logische Brüche, redaktionelle Flüchtigkeitsfehler und verfassungsrechtliche Widersprüche. Bisher blieben solche Schwachstellen meist jahrelang unbemerkt, weil menschliche Juristen Regelwerke nur selten Satz für Satz gegen das gesamte Geflecht übergeordneter Normen abgleichen können.

Dass sich diese Dynamik durch den rasanten Fortschritt generativer Sprachmodelle grundlegend verschiebt, belegt eine aktuelle Untersuchung des Rechtswissenschaftlers Felix Ringe (Stanford Law School liftlab und Freie Universität Berlin) und eines anonymen Koautors. Was bei modernen Sprachmodellen längst als automatisierte Suche nach Sicherheitslücken in Softwarecode bekannt ist, wenden die Forscher nun auf das deutsche Verordnungsrecht an: sogenannte Legal Exploits.

Art. 80 Grundgesetz: Das Zitiergebot als Sollbruchstelle

Im Zentrum der Untersuchung steht eine verfassungsrechtliche Pflicht, die in Ministerien gefürchtet ist: das sogenannte Zitiergebot nach Art. 80 Abs. 1 Satz 3 des Grundgesetzes. Wenn der Bundestag Gesetze verabschiedet, ermächtigt er die Regierung oder einzelne Ministerien häufig dazu, Detailfragen auf dem Verordnungsweg zu regeln. Um eine unkontrollierte Ausweitung exekutiver Befugnisse zu verhindern, verlangt die Verfassung unmissverständlich, dass jede Rechtsverordnung ihre genaue gesetzliche Rechtsgrundlage nennen muss.

Wird eine solche Ermächtigung in der Eingangsformel vergessen, die falsche Gesetzesstelle genannt oder ein Regelungspunkt nicht von der zitierten Grundlage abgedeckt, greift die ständige Rechtsprechung des Bundesverfassungsgerichts: Die betroffene Verordnungsbestimmung ist formell verfassungswidrig und nichtig. Ministerien müssen in der Praxis oft Dutzende Absätze und Querverweise überblicken. Für menschliche Gutachter gleicht das systematische Aufspüren solcher Zitationsfehler einer zeitraubenden Sisyphusarbeit. Für fortgeschrittene Sprachmodelle (LLMs), die juristische Texte und Delegationsketten in Sekundenbruchteilen abgleichen, ist es eine ideale Routineaufgabe.

Drei Praxisfälle: Vertraulichkeit, Transitvisa und NATO-Dienstzeit

Die Forscher belegen ihre These anhand dreier handfester Beispiele aus dem deutschen Bundesrecht, bei denen Sprachmodelle zuvor unbekannte Formfehler und nichtige Regelungen identifizierten:

• Geheime Unterlagen bei Berufskrankheiten: In der 7. Änderungsverordnung zur Berufskrankheiten-Verordnung (BKV) vom 16. Juli 2026 erklärte die Bundesregierung die internen Beratungsunterlagen des zuständigen Sachverständigenbeirats für vertraulich (§ 9 Abs. 5 BKV). In der Eingangsformel zitierte sie jedoch lediglich die allgemeine Befugnis zur Bezeichnung von Berufskrankheiten (§ 9 Abs. 1 SGB VII), versäumte aber laut den Forschern die Nennung der spezifischen Ermächtigung für Beratungsverfahren (§ 9 Abs. 1a Satz 4 SGB VII). Nach dieser juristischen Bewertung wäre die Vertraulichkeitsklausel mangels ordnungsgemäßer Zitierung formell angreifbar - Behörden könnten Anträge nach dem Informationsfreiheitsgesetz (IFG) womöglich nicht mehr auf diese Bestimmung stützen.
• Flughafentransit ohne Visum: Bei einer Novelle der Aufenthaltsverordnung (AufenthV) erweiterte das Bundesinnenministerium die Liste der Staaten, deren Staatsangehörige selbst für das reine Umsteigen im Transitbereich deutscher Flughäfen ein Visum benötigen (Anlage C), unter anderem um Mali. Die dafür im Gesetz vorgesehene Spezialermächtigung (§ 99 Abs. 3a AufenthG) tauchte in der Eingangsformel nicht auf - das Ministerium nannte stattdessen Absätze zu elektronischen Datenübermittlungen. Aus Sicht der Forscher sei die Visumpflicht für die betroffenen Transitpassagiere deshalb formell unwirksam.
• Überstundenausgleich bei der NATO: In der Soldatenarbeitszeitverordnung (SAZV) schloss das Verteidigungsministerium Soldatinnen und Soldaten beim multinationalen NATO-Kommando JSEC in Ulm vom Anspruch auf Freizeitausgleich für Überstunden aus. Auch hier unterblieb laut der Analyse die Zitierung der einschlägigen Ausnahme-Ermächtigung im Soldatengesetz (§ 30c Abs. 6 i.V.m. § 93 Abs. 2 Nr. 7 SG). Nach der Argumentation der Autoren könnten betroffene Soldaten die Nichtigkeit der Ausschlussklausel geltend machen.

Vom juristischen Zufallstreffer zum industriellen Hebel

Die empirischen Funde knüpfen an eine theoretische Debatte an, die in der internationalen KI-Sicherheitsforschung unter dem Begriff Legal Zero-Days geführt wird. Bislang basierte die Stabilität bürokratischer und gerichtlicher Abläufe maßgeblich darauf, dass gründliche juristische Prüfungen extrem personalintensiv und teuer waren. Einzelne redaktionelle Versehen von Gesetzgebern blieben daher oft folgenlos im Alltag verborgen oder wurden im Streitfall von Fachgerichten pragmatisch ausgelegt.

Wenn jedoch KI-Modelle juristische Logik und Gesetzesabgleiche zu Grenzkosten nahe null beherrschen, ändert sich das Kräfteverhältnis dramatisch. Genauso wie spezialisierte juristische KI-Agenten Verträge analysieren, können automatisierte Exploit-Scanner künftig zehntausende Gesetzesblätter, Satzungen und behördliche Verordnungen durchforsten. Prozessfinanzierer, Großkanzleien oder Interessengruppen könnten Behördenbescheide, Abgaben oder Auflagen serienmäßig mit Verweis auf verfassungsrechtliche Formfehler zu Fall bringen. Die Frage, wie autonome KI-Agenten die rechtliche Regulierung sprengen, erreicht damit das Verordnungsrecht von innen heraus.

Die Konsequenz für die Gesetzgebung: Härtung nach Software-Vorbild

Als Konsequenz aus ihren Befunden skizzieren die Autoren eine strukturelle Modernisierung des Gesetzgebungsprozesses nach dem Vorbild der Software-Sicherheit. In der professionellen Software-Entwicklung wird kein Programmcode freigegeben, ohne dass automatisierte Compiler, Linter und formale Verifikationswerkzeuge syntaktische Fehler und Berechtigungslücken abfangen.

In Gesetzgebungs- und Verordnungsreferaten dominiert dagegen bislang die manuelle Redaktion. Angesichts der rasanten Verbreitung von juristischer KI erwarten Branchenbeobachter, dass künftig auch Ministerien auf automatisierte Prüfwerkzeuge zurückgreifen werden, um Entwürfe vor der Unterzeichnung systematisch gegen Ermächtigungsgrundlagen, Verfassungsnormen und europarechtliche Vorgaben abzugleichen. Ohne eine solche digitale Absicherung wächst das Risiko, dass fehlerhafte Normen erst im Nachhinein durch automatisierte Analysen Dritter aufgedeckt werden.