Was wäre, wenn Staaten den Wettlauf um immer leistungsfähigere KI nicht gewinnen, sondern bewusst verlangsamen? Genau diese Frage stellt „AI 2040: Plan A“. Das AI Futures Project beschreibt darin ein Zukunftsszenario, in dem die USA, China und weitere Staaten die Entwicklung superintelligenter KI bis 2040 bremsen und gemeinsam absichern. Der Text ist kein beschlossener Plan und keine Prognose. Er ist ein politischer Entwurf der Autoren.
Zu ihnen gehört Daniel Kokotajlo, ein früherer Governance-Forscher bei OpenAI. Gemeinsam mit Thomas Larsen, Romeo Dean, Brendan Halstead, Eli Lifland und Ryan Greenblatt argumentiert er: Wenn KI-Systeme eines Tages Menschen in allen wichtigen Aufgaben übertreffen, sollte die Welt nicht erst dann über Sicherheitsregeln verhandeln.
Der Kern von Plan A
Im Szenario schließen die USA und China 2029 ein Abkommen gegen einen ungebremsten Wettlauf. Zunächst wird das Training besonders leistungsfähiger KI vorübergehend angehalten. Die Zeit soll genutzt werden, um gemeinsame Regeln und Überprüfungen aufzubauen. Ab 2030 soll die Forschung wieder weitergehen, aber unter deutlich anderen Bedingungen als heute.
Plan A folgt dabei vier Prinzipien:
- Zeit gewinnen: KI soll nur so schnell weiterentwickelt werden, wie Sicherheitsfragen mit vertretbarer Sicherheit beantwortet werden können.
- Forschung sichtbar machen: Fast alle KI-Forschung soll öffentlich nachvollziehbar sein, damit Staaten und Öffentlichkeit erkennen können, woran gearbeitet wird.
- Macht verteilen: Nicht wenige abgeschottete Konzerne sollen allein an der Spitze arbeiten. Viele Unternehmen und Länder sollen Zugang zu leistungsfähiger KI erhalten.
- Rechenleistung kontrollierbar halten: Große Rechenzentren sollen im Konfliktfall nicht einfach für einen Wettlauf umfunktioniert werden können.
Von 2030 bis 2035 dürfen die Systeme im Entwurf ungefähr das Niveau führender menschlicher Fachleute erreichen. Danach sieht Plan A eine weitere Pause vor. Erst 2040 soll die koordinierte Skalierung zu Superintelligenz beginnen. Ob diese Abfolge politisch durchsetzbar oder technisch sinnvoll wäre, ist offen. Gerade diese Unsicherheit soll der Bericht sichtbar machen.
Warum Chips und Rechenzentren entscheidend sind
Für ein solches Abkommen reicht Vertrauen nicht aus. Plan A schlägt daher eine „Compute Declaration“ vor. Staaten würden große Chip-Bestellungen, Fabriken und Rechenzentren offenlegen. Zusätzliche Messtechnik könnte anzeigen, ob auf einem Cluster ein verbotener Trainingslauf stattfindet. Das ist keine bestehende internationale Infrastruktur, sondern eine Voraussetzung, die der Entwurf erst schaffen müsste.
Besonders drastisch klingt der Begriff „Mutually Assured Compute Destruction“. Gemeint ist keine automatische Abschaltfunktion für Chips. Der Gedanke lautet: Bricht die Vereinbarung zusammen, darf keine Seite die Rechenzentren der anderen übernehmen und damit einen neuen Wettlauf beschleunigen. Der Bericht skizziert dafür politische und physische Sicherungen, bis hin zur Zerstörung der Hardware im Konfliktfall.
Die anderen Wege im Vergleich
Die Autoren stellen Plan A vier Alternativen gegenüber. Plan B setzt auf eine strenge US-Regulierung und Druck auf China. Plan C bremst vor allem die USA und lässt den internationalen Wettbewerb weitgehend weiterlaufen. Plan D beschreibt die Fortsetzung des heutigen Rennens. Plan S wäre ein unbefristeter Stopp der KI-Entwicklung an der Spitze. Keine dieser Varianten ist eine Vorhersage. Sie sollen zeigen, welche Zielkonflikte zwischen Sicherheit, wirtschaftlichem Wettbewerb und geopolitischer Macht entstehen.
Kein Fahrplan, aber eine konkrete Frage
AI 2040 trifft weitreichende Annahmen: Großmächte müssten kooperieren, Forschung müsste deutlich transparenter werden und die Kontrolle über Rechenleistung müsste technisch funktionieren. Dafür gibt es heute keine Garantie. Der Wert des Szenarios liegt deshalb nicht in seinem Datum, sondern in seiner Frage: Welche Regeln müssten gelten, bevor KI-Systeme so leistungsfähig werden, dass Fehler oder Machtmissbrauch kaum noch einzufangen sind?
🎯 Was das für die Praxis bedeutet
1. Nicht als Prognose lesen: AI 2040 ist ein Zukunftsentwurf. Er beschreibt keine beschlossene Regulierung und keinen gesicherten Zeitplan für Superintelligenz.
2. Rechenleistung wird strategisch: Wer sehr große KI-Modelle trainiert, braucht Chips, Energie und Rechenzentren. Diese Infrastruktur dürfte in der Sicherheitsdebatte wichtiger werden.
3. Die offene Frage bleibt Alignment: Ob sich hochleistungsfähige KI zuverlässig an menschlichen Zielen ausrichten lässt, ist nicht gelöst. Genau dafür will Plan A Zeit schaffen.
