Der Beitrag
Während Anthropic an der Börse feiert und OpenAI auf den großen Bühnen für Vertrauen wirbt, wächst der Gegenwind ausgerechnet aus den eigenen Reihen. Binnen 48 Stunden haben zwei der prominentesten Insider der US-KI-Szene ihre Warnungen vor einem Kontrollverlust drastisch verschärft - auf der Straße, vor laufenden TV-Kameras und in hochkarätigen Debatten.
Auf der einen Seite steht der 27-jährige Aussteiger Jacob Coxon, der vor seinem spektakulären Rücktritt bei Anthropic bereits bei OpenAI forschte. Auf der anderen Seite meldet sich Paul Christiano zu Wort - kein externer Kritiker, sondern Mitglied im Sicherheits- und Aufsichtsgremium der OpenAI Foundation. Beide Fälle zeigen, wie tief die Risse zwischen wirtschaftlichem Tempo und interner Risikoangst inzwischen verlaufen.
Protest am Tag des Börsengangs: Vier Festnahmen vor Anthropics Zentrale
Was die Kampagne „Ban RSI“ vorab als Doppel-Schlag zum Börsengang angekündigt hatte, wurde am 19. November 2026 Realität. Genau an dem Tag, an dem der Rekord-Börsengang von Anthropic tausende Mitarbeiter zu Millionären machte, versammelten sich laut The San Francisco Standard ab etwa 11 Uhr rund 120 Demonstranten im Regen vor der Firmenzentrale in San Francisco.
Die Teilnehmer skandierten Parolen gegen rekursive Selbstverbesserung (RSI) - also jenen Punkt, an dem KI-Systeme eigenständig die nächste, noch leistungsfähigere Generation von KI-Modellen entwickeln. Auch Jacob Coxon trat vor seinem früheren Arbeitsplatz ans Mikrofon und forderte laut dem Bericht, den Prozess zu stoppen und RSI zu verbieten („Shut it down. We think they should ban RSI.“). Neben ihm sprach der Sicherheitsforscher Daniel Kokotajlo, Mitautor des Szenarios „AI 2027“, der einen spürbaren Stimmungsumschwung in der Öffentlichkeit beobachtet haben will.
Nach dem Ende der Hauptkundgebung blieb eine kleine Gruppe der Aktivistenorganisation Stop AI vor dem Gebäudeeingang sitzen. Wie der kalifornische Sender KQED berichtet, nahm die Polizei von San Francisco gegen 14:30 Uhr vier Demonstranten fest, darunter Stop-AI-Mitgründer Guido Reichstadter. Anthropic selbst betont laut KQED auf seiner Website, eine solche Entwicklung sei nicht unvermeidlich, könne aber früher eintreten, als die meisten Institutionen vorbereitet seien.
80 Prozent der Denkarbeit bis 2028 - und ein heikles Geständnis in Stanford
Parallel zum Straßenprotest veröffentlichte der Start-up-Förderer Y Combinator am 19. November seine erste „YC Debate“ unter dem Titel „Should We Slow Down AI?“. Darin stritt Coxon mit dem Ökonomen Robin Hanson von der George Mason University über die Frage, ob Regierungen die Entwicklung von Spitzen-KI spürbar verlangsamen sollten.
In der Debatte wagte Coxon eine drastische Prognose: Er sei bereit zu wetten, dass bis Ende 2028 rund 80 Prozent der kognitiven Arbeit in Berufen automatisiert sein würden - nicht zwingend 80 Prozent aller Arbeitsplätze, wohl aber der Großteil der geistigen Tätigkeiten. Diese Zahl ist keine unabhängige Arbeitsmarktstudie, sondern Coxons eigene Hochrechnung. Nach seiner Darstellung leite er sie aus der Annahme ab, dass bei Anthropic bereits 26 Prozent der Kernforschung automatisiert seien.
Seinen eigenen Ausstieg begründete Coxon in einem weiteren Videoausschnitt damit, dass es für eine sicher beherrschbare „komprimierte Forschungsdekade“ schlicht keine belastbaren Belege gebe; er habe nicht Teil einer unkontrollierten Intelligenzexplosion sein wollen. Doch die Glaubwürdigkeit des Whistleblowers bekam in derselben Woche selbst Kratzer.
In einem Gespräch mit Politikprofessor Rob Reich am Stanford HAI räumte Coxon ein, seine lukrativen Firmenanteile an OpenAI weiterhin zu behalten. Auf Reichs kritische Nachfrage antwortete Coxon lapidar, er möge Geld und stimme zu, dass es sich um „Blutgeld“ („blood money“) handle - ein Weggeben ändere aus seiner Sicht ohnehin nichts. Zudem äußerte er Zweifel, ob sein Abschied von Anthropic richtig gewesen sei: Er habe oft das Gefühl, ins Leere zu rufen, und schließe eine Rückkehr in ein KI-Labor nicht völlig aus.
Offener Widerspruch bei OpenAI: Aufsichtsrat warnt bei CNN vor Machtübernahme
Noch brisanter als die Kritik eines Aussteigers sind die jüngsten Worte eines amtierenden Kontrolleurs. Paul Christiano, früherer Leiter der Alignment-Forschung bei OpenAI und seit September Mitglied im Aufsichtsgremium der OpenAI Foundation, brachte seine Warnungen nun ins US-Fernsehen. In einem Interview mit Anderson Cooper bei CNN sprach er von einem „bedeutenden Risiko“ („meaningful risk“) einer KI-Machtübernahme innerhalb der nächsten sechs bis zwölf Monate.
Bereits bei seinem Vortrag bei den Hinton Lectures in Toronto hatte Christiano vor einem akuten Kontrollverlust gewarnt und gegenüber dem Publikum erklärt, die wahrscheinlichste Todesursache für die meisten Menschen im Saal sei ein KI-Unfall. Dass diese Einschätzung nun zur besten Sendezeit bei CNN landet, setzt die Führung von OpenAI unmittelbar unter Erklärungsdruck.
Sam Altman beim DealBook Summit: Kein Dementi, sondern Warnung vor den nächsten vier Jahren
Wie heikel die Lage ist, zeigte sich am 18. November auf der Bühne des New York Times DealBook Summit. Moderator Andrew Ross Sorkin las OpenAI-Chef Sam Altman und Präsident Greg Brockman das drastische Zitat ihres eigenen Aufsichtsratsmitglieds vor und hakte nach, wie man mit einem Kontrolleur umgehe, der ein solches Risiko befürchte.
Bemerkenswert war weniger das, was Altman sagte, als das, was er nicht tat: Er wischte Christianos Warnung nicht als übertrieben vom Tisch. Stattdessen erklärte der OpenAI-Chef, es wäre aus seiner Sicht „sehr schlecht“, wenn die Welt und die KI-Entwickler die nächsten vier Jahre so behandelten wie die vergangenen vier Jahre. Zugleich beklagte Altman ein kommunikatives Dilemma der Branche: Spreche OpenAI öffentlich über Sicherheit, werfen Kritiker dem Konzern regulatory capture vor - also den Versuch, sich den Markt über strenge Regeln abzuschotten. Drücke man dagegen voll aufs Tempo, reagierten Beobachter mit dem Vorwurf, die Menschheit aufs Spiel zu setzen.
Präsident Greg Brockman beantwortete Sorkins Nachfrage nach dem internen Austausch knapp: Man habe „ziemlich viel“ mit Paul Christiano gesprochen. Eine konkrete Bremse oder Kurskorrektur kündigte das Führungsduo auf der Bühne nicht an. So bleibt ein ungewöhnliches Bild zurück: Selbst an der Spitze der beiden wichtigsten westlichen KI-Labore widersprechen sich Wachstumsdruck und Risikobewertung inzwischen offen vor den Augen der Weltöffentlichkeit.
🎯 Was das für die Praxis bedeutet
1. Sicherheitsversprechen kritisch prüfen: Wenn selbst eigene Aufsichtsräte und Ex-Forscher der führenden Anbieter öffentlich vor Kontrollverlust warnen, ersetzen Marketing-Bekenntnisse keine eigenen Risiko- und Prüfkriterien im Unternehmen.
2. Automatisierungstempo realistisch einordnen: Prognosen wie Coxons 80-Prozent-Wette sind persönliche Extrapolationen, keine gesicherten Studien. Entscheider sollten Automatisierungschancen anhand messbarer Pilotprojekte bewerten statt nach Extremzahlen.
3. Abhängigkeiten von einzelnen Laboren begrenzen: Öffentliche Konflikte, Personalabgänge und Kapitalmarktdruck bei Frontier-Anbietern erhöhen das Governance-Risiko. Wer KI-Agenten produktiv einsetzt, sollte auf austauschbare Modell-Schnittstellen und klare menschliche Freigabegrenzen achten.
Quellen
Anzeige · Buch und Angebot von Markus Kirchmair
Noch ein Tool. Oder endlich weniger Arbeit?
Prüfen Sie mit No More Tools, welche Software und Abläufe Ihr Unternehmen tatsächlich braucht. Im Workshop entsteht ein priorisierter Fahrplan.
