Anthropic weist Verbotsgerüchte zurück: Dario Amodei zur Zukunft von Open-Weights-Modellen

Anthropic-Chef Dario Amodei hat sich am 27. Juli 2026 persönlich in den Streit um frei herunterladbare KI-Modelle eingeschaltet - also um Modelle, deren trainierte Parameter ("Gewichte") jeder herunterladen, prüfen, anpassen und auf eigener Hardware betreiben kann. Der Vorwurf, den er zurückweist: Anthropic wolle solche Open-Weights-Modelle verbieten lassen, um das eigene Geschäft mit den geschlossenen Claude-Modellen zu schützen. Anthropic habe sich nie für ein solches Verbot ausgesprochen, schreibt Amodei. Open-Weights-Modelle ohne gefährliche Fähigkeiten seien ein öffentliches Gut: Sie kosteten nichts außer der Rechenleistung, die man zum Betrieb brauche, und sie brächten Unternehmen, Entwicklern und Forschern echten Nutzen.

Vorausgegangen war eine Eskalation im Wochentakt. Zunächst berichteten US-Medien, Regierungsvertreter prüften ein Nutzungsverbot chinesischer Open-Weights-Modelle für US-Unternehmen. Am 22. Juli warf das Weiße Haus dem chinesischen Labor Moonshot AI vor, Anthropics Modell Claude Fable 5 per Destillation nachgebaut und daraus Kimi K3 gebaut zu haben; Finanzminister Scott Bessent stellte Sanktionen und Einträge auf der Entity List in Aussicht, Moonshot wies die Vorwürfe zurück. Zwei Tage später veröffentlichte Nvidia-Chef Jensen Huang den offenen Brief "Open Weights and American AI Leadership", der Washington vor voreiligen Beschränkungen warnt. Er startete mit 25 Unterzeichnern und trägt inzwischen rund 75 Namen, darunter Meta, Microsoft, Google, OpenAI, IBM, Mistral, Hugging Face, Palantir und SpaceX. Unter den großen Modellentwicklern fehlen nur Anthropic und Amazon.

Aus dieser Lücke wurde ein Vorwurf. David Sacks, Risikokapitalgeber und seit März 2026 Co-Vorsitzender des Wissenschafts- und Technologiebeirats des US-Präsidenten (PCAST), hält Anthropic vor, Sicherheitsargumente zum Schutz des eigenen Geschäftsmodells zu benutzen. In seinem Beitrag zielt er zusätzlich auf einen Widerspruch: Anthropic nehme für sich in Anspruch, kostenlos auf den Ausgaben der ganzen Welt zu trainieren, während das Unternehmen die Destillation seiner eigenen Modelle als Diebstahl behandele. Öffentlich hatte Sacks zuvor gewarnt, chinesische Open-Source-Modelle pauschal als kontaminiert zu behandeln, würde dem gesamten amerikanischen Open-Source-Ökosystem schaden.

Kein Verbot - aber auch keine Entwarnung

Amodeis Stellungnahme ist kein Freibrief für offene Modelle. Er räumt ausdrücklich ein, dass Open-Weights-Modelle ein höheres Risiko bergen können als geschlossene: Schutzmechanismen ließen sich kaum durchsetzen, die Nutzung nicht überwachen, und einmal veröffentlichte Gewichte seien nicht mehr zurückholbar. Sein Argument gegen Nutzungsverbote ist ein anderes - sie träfen die Falschen. Wer solche Modelle missbrauchen wolle, sei in aller Regel kein legales US-Unternehmen. Ein Verbot würde deshalb vor allem amerikanische KI-Anbieter vor Konkurrenz schützen, und das sei nie sein Ziel gewesen.

Dahinter stehen zwei Szenarien, die Amodei nach eigener Darstellung seit Jahren vertritt. Sein Hauptanliegen sei die Gefahr, dass autoritäre Regierungen leistungsfähigere Modelle bauten als die USA und damit dauerhafte militärische Überlegenheit oder tiefgreifende Unterdrückung im eigenen Land erreichten. Ob diese Modelle offen veröffentlicht würden, sei dafür unerheblich - das gefährlichste Modell sei womöglich eines, das im Verborgenen trainiert und ausschließlich Militär und Staatssicherheit übergeben werde. Erst danach kommt die Sorge vor Missbrauch für Cyber- und Biowaffenangriffe sowie vor Modellen, die sich nicht wie beabsichtigt verhalten.

Drei Kernmaßnahmen statt pauschaler Verbote

• Strikte Hardware-Exportkontrollen: Hochleistungs-Chips und Fertigungsanlagen sollten nicht nach China verkauft, Schmuggelpfade konsequent geschlossen werden. Da China nur begrenzt selbst produzieren könne und Rechenleistung nach den Skalierungsgesetzen der entscheidende Engpass bleibe, sei dies der direkteste Weg, das erste Szenario zu blockieren.
• Vorgehen gegen industrielle Destillation: Beim Destillieren trainiert ein Labor sein Modell mit den Ausgaben eines fremden Spitzenmodells - deutlich billiger, als von Grund auf zu trainieren. Damit lasse sich ein Teil der Chip-Beschränkungen umgehen. Zur Einordnung: Gleichwertige oder überlegene Fähigkeiten bringe das China laut Amodei nicht, wohl aber einen Rückstand von nur noch wenigen Monaten. Entscheidend sei nicht, dass die betreffenden Firmen offene Gewichte veröffentlichten, sondern dass ein autoritärer Staat hinter diesen Operationen stehe. Die Antwort darauf liege in gezielten rechtlichen und kommerziellen Rahmenbedingungen, nicht in Modellverboten.
• Verpflichtende Sicherheitstests vor Veröffentlichung: Alle ausreichend leistungsfähigen Modelle - offen wie geschlossen - müssten vor der Freigabe auf Cyber- und Biorisiken sowie auf Alignment-Probleme geprüft werden, also darauf, ob sie sich an die vorgegebenen Ziele halten. Amodei verweist auf Branchenvorschläge, die genau das unabhängig vom Herkunftsland vorsehen und kleinere Modelle aus Start-ups und Hochschulen ausnehmen. Wirksam sei ein solches Regime allerdings nur global - auch China müsste mitziehen, was er bei Biowaffen für möglich hält, weil es im chinesischen Eigeninteresse liege.

Streit um die Verteidigungsthese

Dem offenen Brief stimmt Amodei in weiten Teilen zu: Offene Gewichte erweiterten den Zugang zur KI-Wirtschaft, stärkten zumindest für manche Anwendungsfälle den Wettbewerb und gäben Kunden mehr Kontrolle. Widerspruch meldet er bei einem Punkt an - der Annahme, breiter Zugang zu Fähigkeiten helfe Verteidigern automatisch mehr als Angreifern. Bei biologischen Bedrohungen befürchtet er das Gegenteil: Ein ausreichend leistungsfähiges Modell könne Erreger mit weit verfügbaren Materialien schnell waffenfähig machen, während der Aufbau von Gegenmaßnahmen selbst im besten Fall Jahre dauere. Solche Fragen müssten durch Tests vor der Veröffentlichung empirisch beantwortet werden, statt sie vorab zu unterstellen.