Anthropic weist Verbotsgerüchte zurück: Dario Amodei zur Zukunft von Open-Weights-Modellen

Anthropic-Chef Dario Amodei hat sich am 27. Juli 2026 persönlich in den Streit um frei herunterladbare KI-Modelle eingeschaltet - also um Modelle, deren trainierte Parameter („Gewichte“) jeder herunterladen, prüfen, anpassen und auf eigener Hardware betreiben kann. Der Vorwurf, den er zurückweist: Anthropic wolle solche Open-Weights-Modelle verbieten lassen, um das eigene Geschäft mit den geschlossenen Claude-Modellen zu schützen. Anthropic habe sich nie für ein solches Verbot ausgesprochen, schreibt Amodei. Open-Weights-Modelle ohne gefährliche Fähigkeiten seien ein öffentliches Gut: Sie kosteten nichts außer der Rechenleistung, die man zum Betrieb brauche, und sie brächten Unternehmen, Entwicklern und Forschern echten Nutzen.

Vorausgegangen war eine politische Kontroverse. US-Medien berichteten, Regierungsvertreter prüften Beschränkungen für chinesische Open-Weights-Modelle. Ein Vertreter des Weißen Hauses warf Moonshot AI vor, Anthropics Claude Fable 5 per Destillation für Kimi K3 genutzt zu haben. Finanzminister Scott Bessent stellte für verdeckte industrielle Destillation Sanktionen oder Einträge auf der Entity List in Aussicht. Moonshot bestreitet den Vorwurf laut Medienberichten. Für die Redaktion ist keine öffentlich vorgelegte technische Beweisführung zugänglich; es handelt sich um einen Vorwurf der US-Regierung und ein Dementi des Unternehmens. Kurz darauf veröffentlichte Nvidia-Chef Jensen Huang den offenen Brief „Open Weights and American AI Leadership“. Dessen dynamische Unterzeichnerliste umfasst inzwischen auch OpenAI; Anthropic ist in der geprüften Fassung nicht aufgeführt.

Aus dieser Lücke wurde ein Vorwurf. David Sacks, Risikokapitalgeber und Berater des Weißen Hauses, wirft Anthropic vor, Sicherheitsargumente zum Schutz des eigenen Geschäftsmodells zu benutzen. Er behauptet außerdem einen Widerspruch zwischen dem Training auf fremden Inhalten und Anthropics Kritik an der Destillation eigener Modellausgaben. Das sind zugeschriebene Vorwürfe von Sacks, keine von diesem Artikel festgestellten Tatsachen.

Kein Verbot - aber auch keine Entwarnung

Amodeis Stellungnahme ist kein Freibrief für offene Modelle. Er räumt ausdrücklich ein, dass Open-Weights-Modelle ein höheres Risiko bergen können als geschlossene: Schutzmechanismen ließen sich kaum durchsetzen, die Nutzung nicht überwachen, und einmal veröffentlichte Gewichte seien nicht mehr zurückholbar. Sein Argument gegen Nutzungsverbote ist ein anderes - sie träfen die Falschen. Wer solche Modelle missbrauchen wolle, sei in aller Regel kein legales US-Unternehmen. Ein Verbot würde deshalb vor allem amerikanische KI-Anbieter vor Konkurrenz schützen, und das sei nie sein Ziel gewesen.

Dahinter stehen zwei Szenarien, die Amodei nach eigener Darstellung seit Jahren vertritt. Sein Hauptanliegen sei die Gefahr, dass autoritäre Regierungen leistungsfähigere Modelle bauten als die USA und damit dauerhafte militärische Überlegenheit oder tiefgreifende Unterdrückung im eigenen Land erreichten. Ob diese Modelle offen veröffentlicht würden, sei dafür unerheblich - das gefährlichste Modell sei womöglich eines, das im Verborgenen trainiert und ausschließlich Militär und Staatssicherheit übergeben werde. Erst danach kommt die Sorge vor Missbrauch für Cyber- und Biowaffenangriffe sowie vor Modellen, die sich nicht wie beabsichtigt verhalten.

Drei Kernmaßnahmen statt pauschaler Verbote

• Strikte Hardware-Exportkontrollen: Hochleistungs-Chips und Fertigungsanlagen sollten nicht nach China verkauft, Schmuggelpfade konsequent geschlossen werden. Da China nur begrenzt selbst produzieren könne und Rechenleistung nach den Skalierungsgesetzen der entscheidende Engpass bleibe, sei dies der direkteste Weg, das erste Szenario zu blockieren.
• Vorgehen gegen industrielle Destillation: Beim Destillieren trainiert ein Labor sein Modell mit den Ausgaben eines fremden Spitzenmodells - deutlich billiger, als von Grund auf zu trainieren. Damit lasse sich ein Teil der Chip-Beschränkungen umgehen. Zur Einordnung: Gleichwertige oder überlegene Fähigkeiten bringe das China laut Amodei nicht, wohl aber einen Rückstand von nur noch wenigen Monaten. Entscheidend sei nicht, dass die betreffenden Firmen offene Gewichte veröffentlichten, sondern dass ein autoritärer Staat hinter diesen Operationen stehe. Die Antwort darauf liege in gezielten rechtlichen und kommerziellen Rahmenbedingungen, nicht in Modellverboten.
• Verpflichtende Sicherheitstests vor Veröffentlichung: Alle ausreichend leistungsfähigen Modelle - offen wie geschlossen - müssten vor der Freigabe auf Cyber- und Biorisiken sowie auf Alignment-Probleme geprüft werden, also darauf, ob sie sich an die vorgegebenen Ziele halten. Amodei verweist auf Branchenvorschläge, die genau das unabhängig vom Herkunftsland vorsehen und kleinere Modelle aus Start-ups und Hochschulen ausnehmen. Wirksam sei ein solches Regime allerdings nur global - auch China müsste mitziehen, was er bei Biowaffen für möglich hält, weil es im chinesischen Eigeninteresse liege.

Streit um die Verteidigungsthese

Dem offenen Brief stimmt Amodei in weiten Teilen zu: Offene Gewichte erweiterten den Zugang zur KI-Wirtschaft, stärkten zumindest für manche Anwendungsfälle den Wettbewerb und gäben Kunden mehr Kontrolle. Widerspruch meldet er bei einem Punkt an - der Annahme, breiter Zugang zu Fähigkeiten helfe Verteidigern automatisch mehr als Angreifern. Bei biologischen Bedrohungen befürchtet er das Gegenteil: Ein ausreichend leistungsfähiges Modell könne Erreger mit weit verfügbaren Materialien schnell waffenfähig machen, während der Aufbau von Gegenmaßnahmen selbst im besten Fall Jahre dauere. Solche Fragen müssten durch Tests vor der Veröffentlichung empirisch beantwortet werden, statt sie vorab zu unterstellen.