KI-Agenten im Mainstream: Begeisterung in den USA, Frust in Europa - und eine ganze Reihe an unbequemen Fragen

Wer in diesen Tagen beobachtet, was sich jenseits des Atlantiks abspielt, erkennt eine beispiellose Kluft in der globalen Wettbewerbsfähigkeit. Während in Europa intensiv darüber debattiert wird, welche regulatorischen Prüfungen bereits für einfache Chatbots gelten müssen, rollt in den USA die eigentliche Welle der KI-Revolution an. Und sie rollt nicht gemächlich: Autonome Agenten landen mit einer Adaptionsrate im Alltag von Menschen und Unternehmen, die selbst den historischen Start von ChatGPT Ende 2022 in den Schatten stellt.

Mit Meta Muse und dem neuen Unternehmensdienst Muse for Small Business sowie OpenAIs Always-on-Systemen ChatGPT Dots und Space vollzieht sich ein historischer Epochenbruch: Der Markt verlässt die Ära der reinen Chat-Antwortmaschinen. Anwender erhalten Software, die nicht mehr bloß Ratschläge in ein Textfeld tippt, sondern als aktiver Stellvertreter eigenständig Handlungen ausführt.

Europa schaut dieser Entwicklung bislang weitgehend von der Zuschauerbank aus zu. Oder besser gesagt: Die meisten bekommen diese eigentliche KI-Revolution, die sich gerade im Rest der Welt abzeichnet, noch gar nicht erst mit.

Wer hierzulande versucht, diese neuen Systeme zu nutzen, blickt auf einen grauen Sperrbildschirm: OpenAI verhängte für Dots einen strikten Region-Lock für den gesamten Europäischen Wirtschaftsraum. Auch Meta hält Muse für europäische Nutzer komplett gesperrt. Während amerikanische Unternehmen die Assistenten mit Gmail, Kalender, Slack, Buchhaltung und Projektwerkzeugen verknüpfen und Routinearbeiten automatisieren, beißen sich viele europäische Betriebe an bürokratischen Hürden, rechtlichen Unwägbarkeiten und isolierten Zwischenlösungen die Zähne aus.

Die Asymmetrie in der Praxis: Der Vorgeschmack in den Amtsstuben

In dieser Woche war ich in Deutschland für eine Keynote vor rund dreißig Bürgermeistern eines Landkreises engagiert. Im Anschluss gab es eine Reihe an spannenden Gesprächen über eine ganz unmittelbare, praktische Herausforderung: Wie kommunale Verwaltungen schon heute unter einer rasant wachsenden Zahl von Bürgereinsprüchen, Bauantragsbeschwerden und behördlichen Anfragen ächzen.

Ich hatte den Eindruck, dass die anwesenden Kommunalpolitiker jetzt schon eine sehr präzise Ahnung davon haben, wie sehr die technologischen Möglichkeiten heute schon zwischen Privaten und Ämtern auseinanderdriften. Doch das Entscheidende ist: Das, was die Ämter heute erleben, ist erst der Vorgeschmack auf das, was uns bevorsteht. Bei den bisherigen Veränderungen sprechen wir noch nicht einmal von KI-Agenten, sondern von der synchronen Vorstufe gewöhnlicher Sprachmodelle:

Heute schon kann jeder Bürger mit einem Standard-Browser ein gewöhnliches Textmodell nutzen, um einen zehnseitigen, verfahrenstechnisch wasserdichten Einspruch gegen einen Bebauungsplan aufzusetzen. Was früher einen Fachanwalt und zwei Wochen Vorlauf brauchte, kostet heute Sekundenbruchteile.

Auf der anderen Seite der Amtsstuben kämpfen die Mitarbeiter mit der schieren Flut. Doch wenn Verwaltungen prüfen, wie sie Routineaufgaben mit KI zusammenfassen oder Werkzeuge wie Microsoft Copilot einführen können, stoßen sie oft auf eine lähmende Zwickmühle: Gemeinderäte stimmen dagegen - oft getrieben von der berechtigten Sorge vor rechtlichen Risiken, weil verbindliche behördliche Freigaben fehlen und man auf eine ideale, rein europäische Lösung hofft, die es derzeit schlicht nicht gibt.

Die Bürger kämpfen mit Überschalljets. Die Verwaltung darf oft nicht einmal ein Fahrrad benutzen.

Wenn schon diese simple, manuelle Textgenerierung unsere Behörden an den Rand der Handlungsunfähigkeit treibt - was geschieht dann erst, wenn Bürger, Unternehmen und Kanzleien auf vollautonome, asynchrone Systeme umsteigen?

Der eigentliche Epochenbruch: Asynchrone Agenten im US-Mainstream

Der fundamentale Unterschied zwischen einem Chatbot und einem KI-Agenten liegt in der Rolle des Systems. Ein herkömmliches Sprachmodell ist ein passives Werkzeug: Es wartet auf eine Texteingabe, liefert eine Antwort und vergisst den Vorgang, sobald das Browserfenster geschlossen wird. Das bringt punktuelle Zeitersparnisse, verändert aber keine betrieblichen Wertschöpfungsketten.

Ein KI-Agent hingegen agiert wie ein digitaler Mitarbeiter. Wie wir in der Analyse über das Ende des Chat-Prompts dargelegt haben, verlangt der Übergang zu autonomen Systemen asynchrone Delegation statt synchrones Prompting. Der Agent läuft rund um die Uhr in einer isolierten virtuellen Cloud-Umgebung, behält Kontexte dauerhaft im Gedächtnis und besitzt direkte Schnittstellen zu den intimsten Lebensadern des Alltags: E-Mails, Terminkalendern, Buchhaltungssystemen, Bankkonten und Projektsoftware. Er wartet nicht auf den nächsten Prompt, sondern überwacht Workflows proaktiv im Hintergrund.

Wie radikal diese Delegation im US-Alltag bereits angekommen ist, demonstrierte kürzlich OpenAI-Produktchef Tibo Sottiaux. Er zeigte das Ergebnis seiner im Hintergrund agierenden Agenten: ein komplett abgearbeitetes, leeres E-Mail-Postfach („Inbox Zero“) - vollkommen autonom organisiert und beantwortet:

Hier offenbart sich der gewaltige transatlantische Kultur- und Rechtsgraben: In Europa gilt die Vorstellung, einem Algorithmus Lese- und Schreibrechte auf das eigene Postfach, den Kalender, Finanztransaktionen und vertrauliche Kundendaten einzuräumen, für viele als absoluter Datenschutz-Albtraum. In den USA hingegen markiert genau das den Übergang in eine neue Produktivitätsära: Menschen gewinnen täglich Stunden zurück, weil Software die lästige, repetitive Knochenarbeit lautlos im Hintergrund erledigt.

Dass es sich dabei längst nicht mehr um isolierte Demos für die Tech-Elite des Silicon Valley handelt, belegen Sammlungen wie auf X via @Musecases: Tausende ganz normale Anwender dokumentieren dort tagtäglich, wie Meta Muse, Dots und Co. für sie unzählige Aufgaben übernehmen - vom automatisierten Belegabgleich und der vorbereitenden Buchhaltung über das Sortieren von Rechnungen bis hin zur Auflösung vertrackter Terminkonflikte über Unternehmensgrenzen hinweg.

Das Wesen des Delegierens und der Irrglaube an „KI-Kompetenz“

Jede Führungskraft weiß aus eigener Erfahrung: Die größte Hilfe sind diejenigen Mitarbeiter, denen man Probleme einfach übergeben kann und die sie eigenständig lösen, ohne dass man ihnen ständig über die Schulter blicken und jeden Einzelschritt erklären muss. Delegieren ist dann produktiv, wenn man das Problem abgeben kann und sich sicher sein kann, dass es gelöst wird.

Stellen Sie sich vor, Sie würden jedem Ihrer Mitarbeiter bei jedem Handgriff über die Schulter schauen, jeden Tastendruck kontrollieren und jeden Mausklick vorab absegnen. Das klingt absurd und lähmend. Doch warum ist genau das die Vorstellung, die viele in Europa vom KI-Einsatz haben - und von dem, was man gemeinhin als „KI-Kompetenz“ bezeichnet?

Allein die Annahme, bei KI primär von einer klassischen Anwenderfähigkeit zu sprechen, verfehlt den Kern der Entwicklung. (Und das schreibe ich mit einer gehörigen Portion Selbstironie als jemand, der eine ganze Buchserie über KI-Kompetenz verfasst hat.) Es geht hier nicht um Software-Klickwissen oder Menükunde wie bei einem Expertenprogramm à la Photoshop, CAD oder SAP. Es geht um Kommunikation.

Wie erklären Sie einem KI-Agenten, was Sie erreichen möchten, damit er das gewünschte Ergebnis liefert? Exakt so, wie Sie bisher Ihre Mitarbeiter, Projektleiter und externen Agenturen gebrieft haben. Wenn Ihr Briefing schlampig, unklar oder unvollständig war, haben Sie von der Agentur etwas völlig anderes zurückbekommen, als Sie beabsichtigten. Wenn Ihr Briefing präzise, kontextreich und ergebnisorientiert war, erhielten Sie Spitzenqualität. Genau dasselbe Gesetz gilt für KI-Agenten. Was wir brauchen, ist keine Software-Bedienungskompetenz - sondern Klarheit im Denken und den unternehmerischen Mut zur Delegation.

Die wissenschaftliche Ansage: Warum der AI Act bei KI-Agenten an seine Grenzen gelangt

Und genau an dieser Schnittstelle prallt die technologische Realität mit voller Wucht auf das europäische Regelwerk.

Dass europäische Unternehmen und Verwaltungen hier vor einer Wand stehen, ist keineswegs die subjektive Klage frustrierter Tech-Manager: Es ist genau das, wovor die wissenschaftliche Forschung seit Monaten gewarnt hat. Wie wir in unserer Analyse über die Grenzen des EU AI Acts bei autonomen Agenten dargelegt haben, offenbart ein grundlegendes Forschungspapier um den Forscher Luca Nannini den zentralen Konstruktionsfehler der europäischen Regulierung:

Der EU AI Act basiert auf der Vorstellung statischer Systeme mit klar vorhersehbaren, unveränderlichen Aufgaben. Er will Software wie Industrieanlagen oder Medizinprodukte vorab prüfen und in starre Risikoklassen einsortieren. Doch universelle, asynchrone Agenten sprengen dieses Korsett prinzipiell: Sie verändern ihr Verhalten dynamisch im laufenden Betrieb (Behavioral Drift), rufen eigenständig externe Werkzeuge und Schnittstellen auf und passen ihre Aktionsketten an Zwischenergebnisse an. Derselbe Agent kann in einer Minute eine harmlose Termineinladung versenden, in der nächsten eine geschäftskritische Rechnungsfreigabe vorbereiten und kurz darauf sensible Personal- oder Bürgerdaten verarbeiten. Die Risikostufe ist nicht statisch - sie ändert sich zur Laufzeit.

Die wissenschaftliche Diagnose ist unerbittlich: Die vom europäischen Regelwerk geforderte lückenlose Vorab-Garantie und deterministische Kontrolle ist bei echten, autonom handelnden Agenten technisch derzeit kaum einlösbar - es sei denn, man kappt ihre Vernetzung zu E-Mails, Kalendern und Finanzen und degradiert sie wieder zu passiven Textgeneratoren. Der Region-Lock von OpenAI und Meta für Europa ist daher keine böse Laune oder Schikane: Er ist die logische und unausweichliche Konsequenz eines Rechtsrahmens, der von dynamischen Agenten die Berechenbarkeit eines Taschenrechners verlangt.

Hier schließt sich der Kreis zu den Bürgermeistern: Wenn schon die synchrone Vorstufe der KI unsere Verwaltungen an den Rand des operativen Kollapses treibt - wie sollen unsere Betriebe, Kommunen und Dienstleister im globalen Wettbewerb überleben, wenn der Rest der Welt seine Prozesse mit asynchronen Agenten multipliziert, während Europa seinen Organisationen nicht einmal den Zugang zu den Basissystemen gestattet?

Das Sicherheits-Dilemma: Schein und Wirklichkeit

Dass man in Europa möglichst viel Kontrolle darüber bewahren möchte, was mit sensiblen Daten geschieht, ist vor dem Hintergrund des Schutzes der Privatsphäre nachvollziehbar - insbesondere dann, wenn die Basistechnologie von US-Konzernen dominiert wird. Niemand möchte erleben, dass Betriebsgeheimnisse, Finanzströme oder Bürgerdaten in falsche Hände geraten.

Dass mit KI-Agenten auch reale Fehler passieren, steht außer Frage. Das zeigte sich erst am Freitag in den USA beim E-Mail-Eklat um ChatGPT Dots: Ein Anwender hatte seinem Dot die Vorbereitung für einen Gewerbemietvertrag übertragen. Das System verstand die Anweisung als Handlungsbefehl, ermittelte eigenmächtig behördliche Ansprechpartner und verschickte mitten in der Nacht unautorisierte E-Mails an Stadtplaner und Bauprüfer - was die vertraulichen Verhandlungen empfindlich störte und erheblichen finanziellen Schaden anrichtete. Ein Paradebeispiel dafür, dass Agenten verbindliche Schranken für irreversible Aktionen (wie das finale Absenden externer Nachrichten oder das Auslösen von Zahlungen) benötigen.

Doch der Blick auf die Realität zeigt auch die Kehrseite: Die wirklich verheerenden Datenkatastrophen ereignen sich genauso auch ohne KI.

Schauen wir auf die jüngsten Ereignisse in unseren Verwaltungen: Im September 2026 veröffentlichte die Ransomware-Gruppe Rhysida rund 1,44 Millionen Dateien - 5,8 Terabyte sensibelste Daten aus dem Berliner Landesnetz - ungeniert im Darknet, darunter Ausweiskopien, Personalakten, Gehaltslisten und Notfallpläne, wie Der Spiegel ausführlich berichtete. In Wien wurden kurz darauf Zehntausende Dokumente einer internen Dokumentationsplattform abgegriffen, die tausende Bürger und Mitarbeiter betreffen, worüber der Kurier berichtete.

Betrachten wir die schonungslose Realität: Wir haben es in der Vergangenheit oft nicht geschafft, die Daten unserer Bürger vor kriminellen Zugriffen zu schützen. Wir schaffen es in der Gegenwart nicht. Und es wäre naiv zu glauben, dass uns das bei den Herausforderungen von morgen mit den Konzepten von gestern irgendwie besser gelingen würde.

In der Vergangenheit sorgten veraltete IT-Strukturen und bürokratische Trägheit für Lücken. In der Gegenwart ziehen hochprofessionelle Erpresserbanden terabyteweise sensible Akten aus den Landesnetzen europäischer Hauptstädte ab, während selbst spezialisierte Sicherheitsbehörden und IT-Teams der asymmetrischen Wucht kaum noch hinterherkommen. Doch die Zukunft droht diese Vorfälle wie ein harmloses Vorgeplänkel aussehen zu lassen: Wenn offensive KI-Agenten zum Standardwerkzeug von Cyberkriminellen und feindlichen Staaten werden, scannen sie Netzwerke autonom, verknüpfen Zero-Day-Lücken und greifen mit Maschinengeschwindigkeit rund um die Uhr an. Wie will ein kleines IT-Team mit einem Bastel-Server im Keller einem Schwarm autonomer Angriffs-Agenten standhalten, wenn so viele Organisationen heute schon an gewöhnlicher Ransomware scheitern?

Haben wir die weit verbreitete Annahme, wonach ein eigener Server im Keller mehr Sicherheit und Schutz bieten würde als die mit Milliarden abgesicherten Zero-Trust-Infrastrukturen großer Anbieter, jemals kritisch hinterfragt?

Das Märchen vom Server im Keller: Das Integrations-Paradoxon

In der Debatte wird häufig der Einwand laut: „Dann nehmt doch einfach lokale Open-Source-Modelle!“

Tatsächlich weichen viele Betriebe und Behörden derzeit auf solche Wege aus. Angesichts der regulatorischen Auflagen erscheint das vielen als der einzig gangbare Ausweg. Befürworter verweisen gerne darauf, wie stark offene Modelle aufholen. Das stimmt - vor allem auf dem Papier und in statischen Benchmark-Tabellen. Doch wer sich in der Praxis damit befasst, stellt schnell fest, wie ernüchternd die Erfahrung im Alltag sein kann, wenn man nicht massiv in eigene Rechenpower investiert.

Mein MacBook Pro M5 Max mit 128 GB RAM ist ein beeindruckendes Arbeitsgerät. Es eignet sich hervorragend, um mit kleineren Modellen zu experimentieren - besonders, wenn man sich an einem kalten Abend zwischen hochdrehenden Lüftern den Schoß wärmen möchte. Doch in Sachen Denkgeschwindigkeit, Kontexttreue und fehlerfreier Aktionssteuerung ist man damit noch meilenweit von dem entfernt, was man von Spitzenmodellen bei OpenAI oder Anthropic gewohnt ist.

Und selbst wenn ein Betrieb Hunderttausende Euro in teure GPU-Server investiert: Das eigentliche Dilemma lässt sich damit nicht lösen. Wie ich in meiner englischen Analyse auf Takes on AI dargelegt habe, stehen das vernetzte Agenten-Modell und der isolierte On-Premise-Ansatz in einem unauflösbaren Widerspruch:

Hier liegt das strukturelle Dilemma: Ein KI-Agent ist immer nur so nützlich wie die Systeme, die er miteinander verbinden darf - und nur so schnell wie die Autonomie, die man ihm zugesteht.

Seine Hebelwirkung entsteht nicht dadurch, dass er isoliert einen Text verfasst. Sie entsteht daraus, dass er Postfach, Kalender, Cloud-Speicher, CRM, Buchhaltung und Bankkonten miteinander verknüpft. In dem Moment, in dem wir ein Modell aus Angst vor Datenverlusten vom Internet abschotten oder bei jedem Teilschritt eine bürokratische Freigabe erzwingen, kappen wir genau die Mechanismen, die autonome Arbeit und erhebliche Produktivitätssteigerungen überhaupt erst ermöglichen.

Man kann ein KI-Modell nicht abschotten, um maximale Isolation zu erreichen, und gleichzeitig erwarten, dass es dieselben Produktivitätsgewinne abwirft wie ein vernetzter Agent. Das eine schließt das andere strukturell aus.

Ein legitimer Preis – oder ein Tauschgeschäft mit einer Illusion?

Hier schließt sich der Kreis zu der eigentlichen, existenziellen Grundsatzfrage, der wir uns in Europa stellen müssen.

Man kann sich durchaus ganz bewusst auf die Absicht der Gesetzgeber einlassen: Man kann argumentieren, dass uns der Schutz der Privatsphäre, die informationelle Selbstbestimmung und das Ideal lückenloser Kontrolle so heilig sind, dass wir als Gesellschaft bereit sein sollten, dafür einen spürbaren ökonomischen Preis zu zahlen. Man kann sagen: Ja, wir verzichten bewusst auf die extremen Produktivitätssprünge autonomer Agenten, wir akzeptieren langsamere Prozesse und den Verlust von Wettbewerbsfähigkeit im Vergleich zu den USA, weil uns das höhere Gut des Datenschutzes diesen Wohlstandsverlust wert ist. Über diese Güterabwägung kann man trefflich streiten – und vollkommen unterschiedlicher Auffassung sein.

Doch die eigentlich unbequeme Frage lautet: Was, wenn es diese Sicherheit und Kontrolle, der wir mit DSGVO und AI Act hinterherlaufen, in der vernetzten Wirklichkeit überhaupt nicht gibt?

Was, wenn der lückenlose menschliche Kontrollgriff und die hermetische Festung gegen Datenabflüsse eine Sehnsucht nach einer Welt sind, die längst nicht mehr existiert? Wenn ein kleiner Server im Keller vor modernen Cyberangriffen nicht schützt, wenn Datenlecks auch unter den schärfsten Gesetzen unerbittlich stattfinden und wenn autonome Agenten sich technisch nicht in statische Prüfkästchen sperren lassen: Welchen Gegenwert erhalten wir dann eigentlich für unseren wirtschaftlichen Verzicht?

Wenn die versprochene Kontrolle in der Praxis gar nicht einlösbar ist, haben wir nicht Wohlstand gegen Sicherheit eingetauscht. Wir haben die Zukunftsfähigkeit unserer Betriebe und Verwaltungen für ein Kontrollversprechen geopfert, das an der Realität moderner Technologie zerschellt – und stehen am Ende mit leeren Händen da: ohne die Produktivität der neuen Welt und ohne die Sicherheit der alten.

Die Sisyphus-Falle: Die Fragen, die wir uns stellen müssen

Wenn diese Beobachtung zutrifft, laufen wir in Europa Gefahr, wie Sisyphus all unsere politische Energie, unser regulatorisches Kapital und unsere wirtschaftlichen Ressourcen in ein Ziel zu stecken, das in dieser Form in einer vernetzten Welt vielleicht gar nicht erreichbar ist - die absolute, hermetische Sicherheit unserer Daten.

Und während wir uns krampfhaft auf diesen Sisyphus-Akt fokussieren, bemerken wir den größten blinden Fleck der gesamten Debatte kaum: Dass Betroffene nach einem massiven Datenabfluss im Alltag weitgehend auf sich allein gestellt bleiben und das Vertrauen verloren ist, während der Schwerpunkt der Debatte fast ausschließlich auf formaler Dokumentation und Nachbearbeitung liegt.

Wir müssen damit beginnen, uns drei ehrliche Fragen zu stellen:

• Wie lange kann unsere Wirtschaft im globalen Wettbewerb mithalten, wenn unsere Systeme isoliert bleiben? Während Unternehmen anderswo einen Agenten aktivieren, ihn mit ihren Werkzeugen verbinden und Arbeitsprozesse automatisieren, beißen sich unsere Betriebe an isolierten Insellösungen die Zähne aus.
• Was sagen wir den Bürgern, deren persönlichste Daten bereits im Darknet gelandet sind? Dass wir Datenschutz einfach noch bürokratischer handhaben und noch mehr Formulare ausfüllen müssen?
• Worin besteht echte digitale Souveränität? Bedeutet Souveränität wirklich, sich auf isolierte Keller-Server zu verengen – oder bedeutet sie, dass unsere Verwaltungen und Unternehmen souverän, resilient und mit klaren Leitplanken auf die leistungsfähigsten Werkzeuge der Welt zugreifen können?