Unsere Einordnung
Roman Yampolskiy forscht seit 18 Jahren an einer einzigen Frage: Können wir eine Superintelligenz dauerhaft kontrollieren? Seine Antwort lautet Nein — und er hat bisher niemanden gefunden, der ihn widerlegen konnte. In diesem knapp einstündigen Interview bei Decoded Genius legt der Informatikprofessor der University of Louisville dar, warum die Wahrscheinlichkeit eines katastrophalen Kontrollversagens bei nahezu 100 Prozent liegt und warum weder Alignment noch Kill-Switches das Problem lösen.
Yampolskiys Kernargument ist bestechend einfach: Ein System, das schlauer ist als sein Erschaffer, kann nicht dauerhaft von ihm kontrolliert werden. Jede Sicherheitsvorkehrung — ob Containment, Alignment oder eingebaute Notschalter — setzt voraus, dass die Kontrollinstanz das kontrollierte System vollständig versteht. Bei einer Superintelligenz ist das per Definition nicht der Fall. Yampolskiy vergleicht die Lage mit Oppenheimer und der Atombombe, sieht die KI-Entwicklung aber als riskanter an: Bei der Trinity-Bombe lag die errechnete Katastrophenwahrscheinlichkeit nahe null, bei Superintelligenz liege sie bei 99,9 Prozent — und trotzdem werde weitergebaut.
Besonders scharf geht Yampolskiy mit der Argumentationslinie ins Gericht, wonach westliche Länder KI-Superintelligenz entwickeln müssten, bevor China es tut. Sein Gegenargument: Wenn das System unkontrollierbar ist, spielt es keine Rolle, wer es zuerst baut. Das Wettrüsten-Argument funktioniere nur unter der Annahme, dass Kontrolle möglich sei — genau die Annahme, die er widerlegt habe. Stattdessen plädiert er für ein Moratorium bei genereller Superintelligenz und eine Konzentration auf schmale, zweckgebundene KI-Systeme. Diese brächten wirtschaftlichen Nutzen ohne existenzielles Risiko.
Zum Thema Arbeitsmarkt zeigt sich Yampolskiy pragmatisch. Repetitive Tätigkeiten — vor allem kognitive Arbeit am Computer — verschwinden zuerst. Juristen sieht er als eine der ersten betroffenen Berufsgruppen, während Berufe mit menschlicher Verbindung länger bestehen bleiben. Ein bedingungsloses Grundeinkommen hält er für unvermeidlich, warnt aber vor der gesellschaftlichen Sprengkraft massenweiser Arbeitslosigkeit: Acht Milliarden Menschen mit unbegrenzt Freizeit und keiner Infrastruktur dafür seien ein Rezept für Unruhen.
Interessant ist Yampolskiys Einschätzung der wichtigsten KI-Akteure. Geoffrey Hinton vergleicht er mit Oppenheimer — jemand, der Karriere und Geld opferte, um öffentlich zu warnen. Sam Altman hingegen verfolge das Gegenteil: maximale Macht und Reichtum durch die mächtigste Technologie. Bei Elon Musk sieht Yampolskiy eine Wandlung: Vom Warner, der AI als „Dämon" bezeichnete, zum aktiven Entwickler — nicht aus Geldgier, sondern weil er erkannt habe, dass nur Mitsprache am Tisch Einfluss sichere.
Im letzten Drittel des Gesprächs streift Yampolskiy Themen wie Bewusstsein, Simulation und freien Willen. Superintelligenz könnte bewusster sein als Menschen, argumentiert er. Ob wir in einer Simulation leben, sei eine offene Frage — aber selbst ein Simulator kontrolliere nicht jedes Bit seiner Simulation. Und sein Paper über Humor? Yampolskiy zeigt darin, dass Witze strukturell identisch mit Software-Bugs sind: Beide decken Fehler in einem Weltmodell auf. Die Pointe — der schlimmste Computer-Bug sei zugleich der lustigste Witz — lässt er bewusst offen.
Seine Botschaft an Menschen in Machtpositionen ist klar: Hört auf, generelle Superintelligenz zu bauen. Investiert in schmale Werkzeuge. Das bringt wirtschaftlichen Nutzen ohne das Risiko, alles zu verlieren. Und seine Botschaft an den letzten überlebenden Menschen? „Told you so."
