AI Act

Der AI Act (Verordnung (EU) 2024/1689) ist das weltweit erste umfassende Gesetzeswerk zur Regulierung künstlicher Intelligenz. Das Europäische Parlament hat es im März 2024 verabschiedet, die vollständige Anwendung erfolgt stufenweise bis 2027.

Das Gesetz verfolgt einen risikobasierten Ansatz mit vier Stufen. Verboten sind KI-Systeme mit „inakzeptablem Risiko" — darunter Social Scoring nach chinesischem Vorbild, Echtzeit-Gesichtserkennung im öffentlichen Raum (mit engen Ausnahmen für Strafverfolgung) und manipulative Techniken, die die Willensfreiheit untergraben.

„Hochrisiko-KI" — etwa in der medizinischen Diagnostik, bei Kreditentscheidungen oder im Personalwesen — unterliegt strengen Auflagen: obligatorische Konformitätsbewertung, lückenlose Dokumentation der Trainingsdaten, menschliche Aufsicht und regelmäßige Audits.

General Purpose AI Models wie GPT-4 oder Gemini müssen Transparenzpflichten erfüllen: technische Dokumentation, Informationen über Trainingsdaten und Einhaltung des Urheberrechts. Modelle mit „systemischem Risiko" (trainiert mit mehr als 10^25 FLOPs) unterliegen zusätzlichen Anforderungen wie Red-Teaming und Cybersecurity-Tests.

Die Strafen sind empfindlich: bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes. Damit setzt die EU einen globalen Standard — ähnlich wie die DSGVO beim Datenschutz.