Shane Legg hat Google DeepMind mitgegründet. Marcus Hutter hat die mathematische Theorie universeller Intelligenz formalisiert. Zusammen mit zwölf weiteren Forschern haben sie jetzt einen 50-seitigen Report veröffentlicht, der eine Frage zu beantworten versucht, über die bisher vor allem spekuliert wurde: Was passiert nach AGI?
Das Paper "From AGI to ASI" kartiert den Weg von menschengleicher allgemeiner KI zur Superintelligenz - nicht als Science-Fiction-Szenario, sondern als systematische Analyse technologischer Pfade, möglicher Bremseffekte und offener Forschungsfragen.
Die Messlatte: Was ist überhaupt Superintelligenz?
Die Autoren definieren ihre Begriffe ungewöhnlich präzise. AGI meint ein System auf ungefähr medianem menschlichem Intelligenzniveau. ASI dagegen setzt die Latte deutlich höher: Ein System, das Zehntausende koordinierte menschliche Experten - mit der Technologie von 2010 und zehn Jahren Zeit - auf praktisch allen Aufgaben übertrifft. Kein AlphaGo also, das in einer einzelnen Domäne brilliert, sondern breit überlegene Intelligenz.
Als theoretischen Endpunkt beschreiben sie "Universal AI" - formalisiert durch den AIXI-Agenten von Marcus Hutter. Dieser maximiert den sogenannten Legg-Hutter-Score über alle berechenbaren Aufgaben hinweg. Er ist beweisbar optimal - aber auch beweisbar unberechenbar. ASI wäre demnach eine Annäherung an dieses theoretische Ideal von unten.
Vier Pfade nach oben
Der Kern des Reports analysiert vier technologische Wege von AGI zu ASI, die sich nicht gegenseitig ausschließen und parallel verlaufen können.
Pfad 1: Skalierung. Die Fortsetzung dessen, was in den letzten zehn Jahren funktioniert hat. Die Autoren beziffern das Wachstum effektiver Compute auf etwa 10× pro Jahr - zusammengesetzt aus Hardware-Verbesserungen (1,5× pro Jahr seit sechs Jahrzehnten), wachsenden Investitionen (2,5× pro Jahr) und algorithmischen Effizienzgewinnen (3× bis 6× pro Jahr laut aktuellen Schätzungen). Die zentrale Frage: Auch wenn einzelne Modelle auf menschlichem Niveau stagnieren - reichen Millionen schnellerer Instanzen für den Sprung zu ASI?
Pfad 2: Paradigmenwechsel. Grundlegend neue Architekturen jenseits des Transformers, neuromorphe Hardware, andere Trainingsparadigmen. Per Definition schwer vorhersagbar. Die Autoren betonen, dass die aktuellen Grenzen des Transformer-Paradigmas - begrenztes Kontextfenster, fehlendes kontinuierliches Lernen, fragiles Planen - möglicherweise durch evolutionäre Weiterentwicklungen gelöst werden können, ohne dass ein echter Paradigmenwechsel nötig ist.
Pfad 3: Rekursive Selbstverbesserung. Der brisanteste Pfad. KI beschleunigt KI-Forschung, die daraus resultierende bessere KI beschleunigt die Forschung weiter. Die Autoren identifizieren vier Varianten - analog zu menschlichen Evolutionsprozessen: genetische Verbesserung (besserer Code und Architekturen), kulturelle Verbesserung (bessere Trainingsdaten, AlphaZero-Stil Destillation), kooperative Verbesserung (Spezialisierung und Arbeitsteilung) und Hardware-Verbesserung (KI entwirft bessere Chips). Im Extremfall könnte das zu hyperbolischem - also super-exponentiellem - Wachstum führen.
Pfad 4: Multi-Agent-Kollektive. Superintelligenz nicht als einzelnes System, sondern als emergente Eigenschaft koordinierter AGI-Agenten. Die Autoren ziehen die Parallele zu menschlichen Institutionen - Unternehmen, Märkte, Forschungseinrichtungen - die kollektiv Leistungen erbringen, die kein Einzelner erreichen könnte. Digitale Agenten hätten dabei entscheidende Vorteile: perfekte Kopierbarkeit, hohe Kommunikationsbandbreite und die Fähigkeit, spezialisierte Instanzen in großen Stückzahlen zu erzeugen.
Was den Fortschritt bremsen könnte
Die Autoren listen eine Reihe möglicher Bremseffekte auf, ohne zu beantworten, ob diese den Übergang zu ASI stoppen oder nur verlangsamen würden. Die Erschöpfung hochwertiger Trainingsdaten wird gegen Ende der Dekade erwartet. Der Energiebedarf wächst in Richtung Gigawatt-Infrastruktur. Und die sogenannte "Abstraktionsbarriere" - die These, dass digitale Systeme mit ihrer hohen I/O-Bandbreite möglicherweise nicht die tiefen Abstraktionen entwickeln, die menschliches Denken auszeichnen.
Dazu kommt ein Verifikationsproblem: Wenn Systeme menschliche Fähigkeiten übertreffen, wird es schwierig bis unmöglich, ihre Leistung sinnvoll zu messen. Die Autoren schlagen Multi-Agent-Benchmarks vor - etwa Wettbewerb in Nullsummenspielen, ähnlich wie übermenschliche Schachengines bewertet werden.
Die eigentliche Warnung
Die vielleicht wichtigste Aussage des Papers steht im Abstract: Das Bild eines einzelnen transformativen Moments - "AGI wird eingeführt und die Welt verändert sich" - könnte falsch sein. Wahrscheinlicher sei "a series of transformative societal changes", eine Kaskade von KI-getriebenen Durchbrüchen quer durch Wissenschaft und Technologie.
Die Vorbereitung darauf erfordere laut den Autoren ein "massively interdisciplinary endeavour of global scope" - und praktische ASI könnte gebaut werden, bevor die theoretischen Grundlagen vollständig verstanden sind.
Dass dieser Report von den Leuten kommt, die sowohl die theoretische Intelligenzforschung (Hutter, Legg) als auch die praktische KI-Entwicklung (DeepMind) vorantreiben, macht ihn bemerkenswert. Es ist kein Manifest, kein Alarmsignal und kein Verkaufsargument - sondern der Versuch, Unsicherheit systematisch zu kartieren. Ob die vier Pfade parallel oder sequenziell verlaufen, ob die Bremseffekte dominieren oder überwunden werden, ob der Übergang Jahre oder Jahrzehnte dauert - all das sind laut den Autoren offene Forschungsfragen. Die Szenarien, die andere entwerfen, könnten damit eine empirischere Grundlage bekommen.
🎯 Was das für die Praxis bedeutet
1. Skalierungszahlen im Blick behalten: Die Wachstumsrate effektiver Compute (etwa 10× pro Jahr) ist die zentrale Kennzahl. Wer strategische Entscheidungen trifft, sollte regelmäßig die aktuellen Schätzungen bei Epoch AI prüfen.
2. Multi-Agent-Architekturen werden relevanter: Pfad 4 des Reports - Superintelligenz durch koordinierte Agenten-Kollektive - spiegelt einen Trend wider, der bereits in der Praxis sichtbar wird. Wer Agenten-Systeme baut, arbeitet an einem der vier identifizierten ASI-Pfade.
3. Das Paper als Referenz nutzen: Für Strategiepapiere, Investitionsentscheidungen oder Risikobewertungen bietet der Report ein strukturiertes Framework mit konkreten offenen Fragen statt vager Zukunftsvisionen.
