Der Beitrag

Am Vorabend des mit Spannung erwarteten Milliarden-Börsengangs von Anthropic gerät das KI-Labor von zwei Seiten gleichzeitig unter beispiellosen Druck. In einem koordinierten Doppelschlag greifen Spitzenwissenschaftler und Aktivisten den Konzern an seinem empfindlichsten Punkt an: seinem Ruf als Vorreiter für sichere und verantwortungsvolle Künstliche Intelligenz. Während ein hochkarätiges, ideologieübergreifendes Bündnis aus Nobelpreisträgern, Kognitionsforschern und Open-Source-Pionieren mit der Veröffentlichung von The MisAnthropic Statement frontal mit der Unternehmensführung abrechnet, ruft das Aktionsbündnis Ban RSI gemeinsam mit Spitzen-Aussteiger Jacob Coxon zu einer Demonstration direkt vor der Firmenzentrale in San Francisco auf.

„MisAnthropic Statement“: Historische Querfront gegen Safety-Washing

Die am Mittwoch veröffentlichte Protesterklärung schlägt wie eine Bombe in der Tech-Branche ein. Unter dem Titel „The MisAnthropic Statement“ wirft eine bemerkenswerte Koalition dem Unternehmen vor, sein Sicherheits-Image systematisch als Hebel für kommerzielle und politische Machtansprüche zu missbrauchen. Der Kernsatz der Erklärung ist unmissverständlich: Anthropic warne vor den Gefahren sich selbst verbessernder KIs, liefere sich jedoch gleichzeitig ein Wettrennen, um diese Technologie als Erster zu bauen. Das Unternehmen nutze sein Image, um Investoren, Fachkräfte und die Öffentlichkeit zu ködern - während es gleichzeitig seine Sicherheitsversprechen heimlich aufweiche und für eigennützige Gesetze lobbyiere. Das Fazit der Unterzeichner: Anthropic sei kein sicheres KI-Unternehmen.

Was der Erklärung ein enormes politisches Gewicht verleiht, ist die Zusammensetzung der Erstunterzeichner. Das Bündnis vereint traditionelle Antipoden, die in der KI-Debatte sonst selten an einem Strang ziehen: Neben profilierten KI-Sicherheitsforschern wie Max Tegmark (MIT) und Dan Hendrycks (Center for AI Safety) haben führende Denker wie Kognitionswissenschaftler Steven Pinker, Pulitzer-Preisträger Douglas Hofstadter und die Harvard-Rechtsprofessoren Laurence Tribe und Lawrence Lessig unterschrieben. Hinzu kommen die Wirtschaftsnobelpreisträger Oliver Hart und Sheldon Glashow, Turing-Preisträger Judea Pearl sowie Fields-Medaillengewinner Peter Scholze.

Gleichzeitig unterstützen prominente Köpfe des Open-Source-Lagers und der Beschleunigungs-Bewegung das Dokument - darunter Hugging-Face-Mitgründer Thomas Wolf, xAI-Mitgründer Igor Babuschkin, Koryphäe Rob Pike (Co-Entwickler von UTF-8 und Go), Entwickler-Legende George Hotz und sogar Guillaume Verdon (bekannt als „Beff Jezos“), der Gründer der Bewegung des effektiven Akzelerationismus (e/acc). Diese ungewöhnliche Allianz zeigt, dass die Kritik tiefer sitzt als übliche Grabenkämpfe: Viele Beobachter werfen Anthropic vor, durch gezieltes Lobbying für Hochrisiko-Regulierungen kleinere Wettbewerber und quelloffene Alternativen aus dem Markt zu drängen, während man sich selbst als vermeintlich einzige sichere Zuflucht inszeniert.

Straßenprotest in San Francisco: „Their IPO. Our lives.“

Zeitgleich formiert sich der Widerstand auf der Straße. Unter dem Motto „Their IPO. Our lives.“ hat die Kampagne „Ban RSI“ für Donnerstag um 11:00 Uhr Ortszeit zu einer Kundgebung vor dem Hauptquartier von Anthropic in der 500 Howard Street mobilisiert. Prominenter Redner vor Ort ist der ehemalige Spitzenforscher Jacob Coxon. Dessen spektakulärer Rücktritt bei Anthropic im September und sein anschließender viraler Millionen-Tweet hatten den Wettlauf zur Superintelligenz bereits vor Wochen in den Fokus der US-Politik gerückt.

Die Aktivisten fordern ein sofortiges Verbot der sogenannten rekursiven Selbstverbesserung (Recursive Self-Improvement, RSI). Damit bezeichnen Fachleute den Vorgang, bei dem KI-Systeme autonom eingesetzt werden, um die Architektur, die Trainingsdaten und den Code nachfolgender Modellgenerationen selbst zu erforschen und zu programmieren. Die Demonstranten argumentieren, dass dieser geschlossene Kreislauf zu einer unkontrollierbaren Beschleunigung führe, bei der menschliche Kontrollinstanzen in Rekordzeit überrollt würden.

Börsenprospekt als Kronzeuge gegen das Management

Beide Protestwellen greifen zur selben Beweisführung: Sie zitieren ausführlich aus Anthropics offiziellem Börsenzulassungsprospekt (Form S-1), den das Unternehmen bei der US-Börsenaufsicht SEC eingereicht hat. Die Dokumente offenbaren eine fundamentale Zerreißprobe zwischen kommerziellem Wachstumsdrang und Sicherheitsanspruch:

  • Der Wachstumshebel: Auf Seite 7 preist Anthropic gegenüber potenziellen Anlegern an, dass jede Claude-Version beim Bau der nächsten helfe, Entwicklungszeiten extrem komprimiere und sich selbst verstärkende Innovationsschübe erzeuge. Das Unternehmen bezeichnet diesen rekursiven Kreislauf wörtlich als „closing the loop“ und stellt ihn als maßgeblichen strukturellen Vorteil im Spitzenfeld der Branche heraus.
  • Das existenzielle Risiko: Auf Seite 32, im gesetzlich vorgeschriebenen Risikoteil, räumt Anthropic jedoch ein, dass innerhalb der Organisation erhebliche Bedenken bestehen. Hochentwickelte Systeme könnten ohne ausreichende Schutzmaßnahmen „katastrophale oder existenzielle Risiken für die Menschheit“ darstellen. Diese Gefahren würden genau dann dramatisch zunehmen, wenn KI-Systeme die eigene Forschung und Entwicklung weitgehend automatisieren.
  • Die Umsatzexplosion: Wie der Prospekt auf Seite 66 belegt, stieg Anthropics Umsatz von 41 Millionen Dollar im Jahr 2023 über 4,6 Milliarden Dollar im Gesamtjahr 2025 auf 33,2 Milliarden Dollar in den ersten neun Monaten 2026. Das entspricht einer astronomischen Wachstumsrate von 1.206 Prozent gegenüber dem Vorjahreszeitraum.

Nachdem bereits während der Investoren-Präsentationen eine umstrittene Effizienz-Kurve die Runde machte, die ein superexponentielles Wachstum bei Trainingsberechnungen suggerierte, sehen Kritiker in diesen Zahlen den Beweis: Angetrieben von Renditeerwartungen der Wall Street habe das Management die eigenen Bremsmechanismen de facto außer Kraft gesetzt.

Zwischen Selbstverpflichtung und Marktrealität

Anthropic hält den Vorwürfen im Börsenprospekt entgegen, dass man laufend Anpassungen an der internen Responsible Scaling Policy (RSP) vornehme, um den Menschen stets in der Entscheidungsschleife zu halten. Zudem führen Unterstützer des Unternehmens ins Feld, dass der Einsatz von Modellen zur Code-Analyse und Fehlersuche unverzichtbar sei, um künftige Systeme überhaupt gegen Cyberangriffe und Fehlverhalten abzusichern. Würde man westlichen Laboren diese Werkzeuge verbieten, drohe zudem ein massiver Nachteil gegenüber staatlich gelenkten Konkurrenten aus China.

Dass sich nun jedoch führende Köpfe aus Wissenschaft, Philosophie, Open-Source-Entwicklung und Aussteiger-Kreisen zusammenschließen, markiert einen Wendepunkt. Für künftige Aktionäre zeigt der Doppelprotest: Die größte Bedrohung für Anthropics Bewertung ist nicht allein der technologische Wettbewerb mit Google oder OpenAI, sondern der drohende Vertrauensverlust in das fundamentale Versprechen des Unternehmens.

🎯 Was das für die Praxis bedeutet

1. Vorsicht bei freiwilligen Sicherheits-Labels: Unternehmen sollten sich bei der Modellauswahl nicht allein auf das Marketing-Branding der Hersteller verlassen. Transparente Prüfberichte und externe Audits sind verlässlicher als Selbstverpflichtungen.

2. Wachsender Regulierungsdruck auf geschlossene Schleifen: Die koordinierte Kritik von Nobelpreisträgern und e/acc-Vertretern dürfte Debatten in Washington und Brüssel befeuern. Gesetzliche Vorgaben gegen unüberwachte rekursive Selbstverbesserung rücken näher.

3. Multi-Modell-Strategie gegen Anbieter-Risiken: Der Konflikt zwischen Renditehunger und Laborschutz zeigt, wie volatil die Governance einzelner Frontier-Entwickler ist. Robuste IT-Architekturen müssen austauschbar bleiben.

Dieser Artikel enthält eingebettete Inhalte externer Anbieter, etwa Videos oder Social-Media-Beiträge. kiwoche.com ordnet diese Inhalte redaktionell ein, übernimmt sie jedoch nicht als eigene Inhalte. Die Rechte daran verbleiben bei den jeweiligen Rechteinhabern; für die externen Inhalte sind die jeweiligen Anbieter verantwortlich. Eingebettete Inhalte können vollständig oder teilweise mit KI erstellt oder bearbeitet worden sein.

Quellen

Teilen
Software ist tot von Markus M. Kirchmair

Anzeige · Buch und Angebot von Markus Kirchmair

Noch ein Tool. Oder endlich weniger Arbeit?

Prüfen Sie mit No More Tools, welche Software und Abläufe Ihr Unternehmen tatsächlich braucht. Im Workshop entsteht ein priorisierter Fahrplan.