Zwischen dem Anspruch als gemeinnützig orientiertes Sicherheitslabor und dem Druck eines für Herbst 2026 kolportierten 2-Billionen-Dollar-Börsengangs ist bei Anthropic ein offener Richtungsstreit ausgebrochen. Auslöser ist eine detaillierte, über 1.500 Wörter lange Kritik von Nathan Calvin, dem Chefstrategen und Chefsyndikus der KI-Sicherheitsorganisation Encode AI. Calvin wirft dem KI-Pionier vor, die ursprünglichen Sicherheitsversprechen schrittweise aufzugeben, um im Wettlauf um übermenschliche Systeme die Führung zu behalten. Anthropic-Chef Dario Amodei reagierte am 21. Oktober 2026 mit einer fast 2.000 Wörter langen Entgegnung auf X: Er räumt handwerkliche Fehler bei einem umstrittenen Gesetzesentwurf ein, verteidigt das massive Hochskalieren von Rechenkapazitäten jedoch als unverzichtbare Voraussetzung für wirksame Sicherheitsstandards.
Die Auseinandersetzung trifft den Kern des Selbstverständnisses von Anthropic. Das Unternehmen war 2021 von ehemaligen OpenAI-Forschern um Dario und Daniela Amodei gegründet worden, die aus Sorge vor einer unkontrollierten Kommerzialisierung der Technologie ein bewusst sicherheitsfokussiertes Gegenmodell schaffen wollten. Calvin zeichnet in seiner Analyse nun ein anderes Bild: Anthropic handle in der Praxis wie ein gewöhnlicher Tech-Konzern, der das Erreichen übermenschlicher Fähigkeiten über alle Bedenken stelle, während Sicherheitsrichtlinien systematisch aufgeweicht würden.
Neun Vorwürfe: Vom 500-Milliarden-Compute bis zur Richtlinien-Revision
Calvin stützt seine Anklage auf neun konkrete Entwicklungen des vergangenen Jahres. Neben internen Chip-Entwicklungsteams zur Beschleunigung von Claude und kolportierten Rechenzentrums-Verträgen über mehr als 500 Milliarden Dollar kritisiert Encode AI vor allem die zunehmende Eigendynamik in der Modellentwicklung. Demnach führe das Flaggschiff Claude inzwischen rund 26 Prozent der internen Programmieraufgaben für künftige Modellgenerationen autonom aus - im März 2026 habe dieser Wert noch bei null gelegen.
Besonders schwer wiegt der Vorwurf, Anthropic habe seine einst gefeierte Responsible Scaling Policy (RSP) in der aktuellen Version 3 entkernt. Während frühere Fassungen harte, einseitige Entwicklungs- oder Bereitstellungsstopps vorsahen, sobald Modelle definierte Risikoschwellen überschreiten, basiere das neue Regelwerk primär auf flexiblen Absichtserklärungen und internen Fortschrittsberichten. Calvin formulierte dazu eine Frage, die in der Sicherheitsforschung seit Monaten schwelt: Wenn Anthropic Fehler unterlaufen, warum begünstigen diese Fehler ausnahmslos die wirtschaftlichen und strategischen Interessen des Unternehmens?
Amodeis Gegenoffensive: Die Neun-Punkte-Liste der Sicherheitskosten
In seiner Replik weist Amodei den Vorwurf einer kulturellen Erosion entschieden zurück. Seine zentrale These: Wer Sicherheitsstandards für die gesamte Branche setzen will, darf sich nicht in die zweite Reihe zurückziehen. Anthropic verfolge seit jeher eine Strategie, die Amodei als „Race to the Top“ bezeichnet. Nur ein Unternehmen, das technologisch an der vordersten Front mitspiele, könne neue Sicherheitsmaßstäbe etablieren, denen Wettbewerber folgen müssten.
Um zu belegen, dass Anthropic der Sicherheit weiterhin Vorrang einräume, stellte Amodei Calvins Kritik eine eigene Liste von neun unternehmerischen Entscheidungen gegenüber, die das Unternehmen erhebliche Marktanteile und Umsätze gekostet hätten:
- Rückhalt von Spitzenmodellen: Die hochgradig autonome Modellklasse Mythos habe intern bereits im Februar 2026 vorgelegen. Dennoch habe Anthropic die allgemeine Bereitstellung bis in den Juni verzögert und den Zugang zunächst streng auf das Cyberabwehr-Projekt Glasswing beschränkt, wodurch ein mehrmonatiger Marktvorsprung bewusst geopfert worden sei.
- Restriktive Biologie-Filter: Aus Sorge vor Missbrauch bei Krankheitserregern habe Anthropic extrem strikte Filter aktiviert. Die hohe Quote an Fehlalarmen führe dazu, dass legitime Biologieforscher über Claude scherzten und Konkurrenten mit freizügigeren Modellen Kunden abwerben.
- Geopolitische Sperren: Anthropic sei das bisher einzige Spitzenlabor, das den Zugriff für staatlich kontrollierte Unternehmen aus China selbst über Drittländer konsequent sperre und juristisch gegen Destillationsversuche vorgehe.
- Strikte Exportkontrollen: Das Management setze sich trotz massiver Spannungen mit Hardware-Partnern öffentlich für harte staatliche Ausfuhrbeschränkungen bei Hochleistungs-KI-Chips ein.
- Transparenz und Public Benefit: Der immense Arbeitsaufwand für ausführliche Risikoberichte wie den Risk Report vom August 2026 sowie die jüngste Zusage, fünf Prozent des Unternehmenswertes in einen gemeinnützigen Fonds einzubringen, seien mit reiner Profitmaximierung unvereinbar.
Eingeständnisse bei Kongress-Lobbying und Kommunikation
Bemerkenswert an Amodeis Antwort ist, dass er den Kritikern in drei wesentlichen Punkten recht gibt. Insbesondere die Kontroverse um einen kürzlich an den US-Kongress übermittelten Gesetzentwurf sorgt in der Branche für Unruhe. Der Text, über den unter anderem Politico berichtete, sah vor, Bundesstaaten weitgehend das Recht zu entziehen, gefährliche KI-Modelle eigenständig zu stoppen, und legte gleichzeitig hohe juristische Hürden für Bundesbehörden fest.
Amodei räumte ein, dass dieser Gesetzesvorschlag sowie frühere Stellungnahmen zu Vorfällen bei Claude handwerkliche Fehler gewesen seien. Sie fielen in den Bereich unglücklich formulierter Kommunikation oder hektischer Abstimmungsprozesse. Angesichts einer Belegschaft von inzwischen über 5.000 Mitarbeitern ließen sich solche Reibungsverluste nicht immer vermeiden. Als Geschäftsführer übernehme er jedoch die volle persönliche Verantwortung dafür.
| Streitpunkt | Kritik durch Nathan Calvin (Encode AI) | Entgegnung durch Dario Amodei (Anthropic) |
|---|---|---|
| Frontier-Skalierung | 500-Mrd.-Dollar-Deals und Claude-Selbstprogrammierung zeigen Priorität auf Superintelligenz. | Spitzenposition ist nötig („Race to the Top“), um Sicherheitsstandards industrieübergreifend durchzusetzen. |
| RSP-Revision (v3) | Verbindliche Bereitstellungsstopps wurden durch unverbindliche Roadmaps ersetzt. | Alte Regeln waren starr und banden Ressourcen an Nebenschauplätzen; neue Berichte schaffen Transparenz. |
| Kongress-Gesetzentwurf | Lobbyarbeit sollte Kompetenzen der US-Bundesstaaten beschneiden und Prüfhürden senken. | Eingeständnis: Entwurf war schlecht formuliert und ein Fehler, Verantwortung liegt beim CEO. |
| Kommerzielle Opfer | Fehler und Richtlinienanpassungen fallen systematisch zugunsten des Konzerns aus. | Gegenliste: Verzögerter Start von Fable 5, Bio-Filter und China-Sperren kosteten massiv Umsatz. |
Der unauflösbare Grundwiderspruch an der Technologiegrenze
Der Schlagabtausch legt ein grundlegendes Dilemma der KI-Governance offen. Amodeis Argumentation, wonach effektive Sicherheit nur von der technologischen Spitze aus betrieben werden könne, weist aus Sicht von Kritikern eine schwer auflösbare Zirkellogik auf: Sie erlaube es, jeden noch so aggressiven Investitionsschritt und jede Ausweitung von Rechenzentren nachträglich als Sicherheitsmaßnahme zu deklarieren. Kritiker wie Encode AI halten dem entgegen, dass dieses Narrativ das eigentliche Risiko - einen unkontrollierten Wettlauf zwischen den Spitzenlaboren - nicht bremse, sondern rechtfertige.
Die Debatte erhält zusätzliche Brisanz durch die jüngsten Absprachen zwischen führenden Branchenköpfen. Erst vor wenigen Wochen hatten sich Amodei, Sam Altman und Elon Musk auf eine gemeinsame Drosselung bestimmter Trainingsschritte verständigt, um Risiken durch rekursive Selbstverbesserung zu beherrschen. Gleichzeitig steuert Anthropic mit einem laut Medienberichten erzielten Quartalsumsatz von 16,8 Milliarden Dollar auf einen für November 2026 kolportierten Börsengang zu, der das Unternehmen mit rund zwei Billionen Dollar bewerten könnte. Ob ein künftig börsennotierter Konzern unter Quartalsdruck in der Lage sein wird, bei gravierenden Sicherheitszweifeln die Reißleine zu ziehen, bleibt die entscheidende Bewährungsprobe.
🎯 Was das für die Praxis bedeutet
1. Verlässlichkeit freiwilliger Richtlinien hinterfragen: Selbstverpflichtungen wie Responsible Scaling Policies können von Anbietern jederzeit angepasst werden. Sicherheitsbeauftragte in Unternehmen sollten eigene, interne Prüfprozesse etablieren, statt sich ausschließlich auf Herstellererklärungen zu stützen.
2. Strengere Filter bei Spitzenmodellen einkalkulieren: Anthropics Festhalten an restriktiven biologischen und sicherheitsbezogenen Klassifikatoren führt im Unternehmensalltag zu höheren Falsch-Positiv-Raten. Entwicklerteams müssen Ausweichpfade für fälschlicherweise blockierte Arbeitsabläufe vorsehen.
3. Vorbereitung auf bundesstaatliche Regulierungsunterschiede: Der Streit um den geleakten US-Gesetzentwurf zeigt, dass Vorgaben auf Ebene einzelner Bundesstaaten wie Kalifornien (SB 53) vorerst wirksam bleiben. International agierende Firmen müssen weiterhin mit einem fragmentierten regulatorischen Flickenteppich planen.
