Cambridge-Report warnt vor Intelligenzexplosion: Rekursive KI-Forschung droht menschlicher Kontrolle zu entgleiten

Es ist ein in der Geschichte der Technologiebranche beispielloser Vorgang: Führende akademische Pioniere der künstlichen Intelligenz haben sich mit den obersten Wissenschaftlern und Mitgründern der weltweit einflussreichsten KI-Konzerne verbündet. In einem gemeinsamen Arbeitspapier des Cambridge Programme on AI Science & Policy (CASP) an der Universität Cambridge warnen mehr als zwanzig renommierte Experten vor einer unmittelbar drohenden, softwaregetriebenen Intelligenzexplosion. Zu den Verfassern gehören neben den Turing-Award-Preisträgern Geoffrey Hinton, Yoshua Bengio und Andrew Barto auch Jakub Pachocki (Chefwissenschaftler von OpenAI), Jack Clark (Mitgründer von Anthropic) sowie Eric Horvitz (Chefwissenschaftler von Microsoft). Sie sprechen in dem Papier in ihrer persönlichen Funktion als Forscher - und fordern Regierungen weltweit auf, sofortige Kontrollmechanismen für die automatisierte KI-Forschung einzurichten.

Die zentrale These des Berichts: Weil KI-Systeme in den Entwicklungsabteilungen der großen Labore zunehmend die Erforschung und Programmierung künftiger Modellgenerationen selbst übernehmen, schließt sich eine rekursive Rückkopplungsschleife. Fortschritte, die menschliche Forscher bislang über Jahre hinweg erarbeiten mussten, könnten sich laut den Autoren binnen Monaten oder gar Wochen vollziehen. Bereits im September hatte Pachocki intern vor einem Kontrollverlust durch rekursive Selbstverbesserung gewarnt - nun folgt der gemeinsame, koordinierte Weckruf mit der akademischen Welt.

Die Realität in den Laboren: KI baut bereits die nächste KI

Die Autoren stützen ihre Analyse nicht auf theoretische Gedankenspiele, sondern auf vertrauliche Messdaten aus dem Inneren der führenden Labore. Die Zahlen belegen, mit welcher Geschwindigkeit menschliche Ingenieure aus der operativen Entwicklungsarbeit verdrängt werden:

• Anthropic: Der Anteil des von KI-Systemen geschriebenen und für die Produktionssysteme freigegebenen Codes stieg zwischen Januar 2025 und Mai 2026 von wenigen Prozentpunkten auf über 80 Prozent. Noch drastischer entwickelte sich die autonome Forschungsarbeit: Wurde im März 2026 lediglich 1 Prozent aller internen F&E-Aufgaben von KI mit nur minimaler menschlicher Aufsicht bewältigt, kletterte dieser Wert bis August 2026 auf 26 Prozent.
• OpenAI: Das Labor berichtet, dass KI-Assistenz mittlerweile in praktisch allen Abteilungen verankert sei. Autonome Agenten, die selbstständig Programmcode ausführen, werden routinemäßig für das Training, die Bewertung und die Sicherheitsüberprüfung künftiger Modelle eingesetzt und erledigen Aufgaben, für die menschliche Experten zuvor mehrere Tage benötigten.
• Google: Der Konzern bestätigt, dass KI in nahezu allen Arbeitsschritten involviert ist - von der Codeerstellung über technische Konfigurationen bis hin zur Generierung neuer Forschungshypothesen.

Noch im Jahr 2023 waren KI-Modelle lediglich in der Lage, eng umgrenzte Aufgaben von wenigen Sekunden Dauer zu bearbeiten. Im Herbst 2026 übernehmen agentische Systeme eigenständig mehrtägige Forschungsprojekte, finden eigenständig Lösungen für komplexe Sicherheitsfragen und prognostizieren wissenschaftliche Erfolgschancen präziser als menschliche Fachleute.

Software-Schleife statt Hardware-Bremse: Warum die Beschleunigung kippen kann

Die Autoren grenzen eine softwaregetriebene Intelligenzexplosion bewusst von Fortschritten bei der Rechenhardware ab. Während der Bau neuer Chipfabriken und Rechenzentren durch jahrelange Genehmigungsverfahren, Lieferketten und gigantische Energiebedarfe gebremst wird, vollziehen sich Software-Sprünge nahezu verzögerungsfrei. Findet ein KI-System einen effizienteren Trainingsalgorithmus oder eine Methode zur Beschleunigung der Inferenz, kann dieser Fortschritt binnen Minuten auf die gesamte Infrastruktur aufgespielt werden.

Nach Modellrechnungen der Cambridge-Forscher verfügt allein ein Unternehmen wie OpenAI über ausreichend Inferenz-Rechenleistung, um rechnerisch das Arbeitsvolumen von Millionen menschlicher Spitzenforscher rund um die Uhr zu simulieren. Gegenüber den wenigen Tausend Forschern aus Fleisch und Blut, die derzeit in den Spitzenlaboren angestellt sind, bedeutet dies eine Vervielfachung der Forschungskapazitäten. Sollte die Forschungsarbeit vollständig automatisiert werden, könnte sich das Tempo der Weiterentwicklung nach Berechnungen der Autoren binnen rund 17 Monaten verzehnfachen: Ein technologischer Fortschritt, der nach heutigem Maßstab ein volles Jahr beansprucht, würde dann in lediglich fünf Wochen erzielt.

Gleichzeitig verweisen die Autoren auf vier fundamentale Reibungsverluste, die eine unendliche Beschleunigung dämpfen könnten: Abnehmende Erträge (Diminishing Returns), da einfache Durchbrüche schnell erschöpft sind und parallele Agenten Gefahr laufen, sich gegenseitig zu blockieren; Grenzen bei Trainingsdaten und Rechenleistung; schwer automatisierbare Aufgaben, die physische Experimente oder tiefgreifendes menschliches Urteil erfordern; sowie zeitintensive Trainingsläufe, die auch mit optimierten Algorithmen viele Tage in Anspruch nehmen.

Drei Säulen für die Politik: Kontrolle, Air-Gapping und Notabschaltung

Sollte die Dynamik die Bremsfaktoren überwinden, drohen nach Ansicht der Autoren existenzielle Gefahren: die gesellschaftliche Überforderung durch zu schnellen Wandel, der irreversible Kontrollverlust über autonome Systeme sowie eine extreme Machtkonzentration, die das demokratische Gefüge untergraben könnte. Auch der kürzliche Abgang des OpenAI-Sicherheitsleiters David Robinson verdeutlichte, wie groß die internen Spannungen zwischen Marktdruck und Absicherung sind. Die Autoren formulieren daher drei vordringliche Handlungsfelder für Gesetzgeber:

• Sichtbarkeit und Prüfpflichten: Regierungen müssen standardisierte Meldepflichten für den Automatisierungsgrad in der F&E durchsetzen. Nach dem Vorbild der Atomaufsicht (Nuclear Regulatory Commission) sollten unabhängige staatliche Prüfer direkt in den Laboren stationiert werden (Embedded Auditors).
• Geschwindigkeitsbegrenzungen und Isolierung: Hochentwickelte F&E-Agenten dürfen nur noch in physisch isolierten, vom Internet getrennten Netzwerken (Air-Gapped Environments) betrieben werden, um den Diebstahl von Modellgewichten oder unkontrolliertes Ausbrechen zu verhindern. Zudem müssten Notfall-Abschaltungen (Kill Switches) und rechtliche Obergrenzen für den maximalen Fähigkeitszuwachs pro Zeitspanne vorbereitet werden.
• Gesellschaftliche Resilienz: Staaten müssen Notfallpläne für plötzliche Verwerfungen am Arbeitsmarkt aufstellen, strategische Simulationen (War Games) durchführen und die Zivilgesellschaft mit Kontrollwerkzeugen ausstatten.

Die Botschaft des Cambridge-Papiers markiert das Ende der Phase, in der Warnungen vor einer Intelligenzexplosion durch rekursive KI als reine Science-Fiction abgetan werden konnten. Wenn die Entwickler der mächtigsten KI-Systeme gemeinsam mit ihren schärfsten Kritikern nach staatlichen Fesseln rufen, schließt sich das Zeitfenster für politisches Handeln rapide.