Unsere Einordnung
Andrej Karpathy — Ex-Tesla-KI-Chef, OpenAI-Mitgründer und Erfinder des Begriffs „Vibe Coding" — hat beim jährlichen Sequoia AI Summit einen Vortrag gehalten, der erklärt, warum KI gleichzeitig genial und erschreckend dumm sein kann. Matthew Berman hat den exklusiven Talk kommentiert und eingeordnet.
Software 3.0: Ein neues Computerparadigma
Karpathys zentrale These: Wir erleben nicht einfach bessere Software, sondern ein komplett neues Computerparadigma. In seiner Darstellung ist das große Sprachmodell nicht bloß ein Werkzeug — es ist der Computer. Der Kontextfenster ist der Arbeitsspeicher, die Gewichte des Modells sind der Prozessor. Software 1.0 war geschriebener Code, Software 2.0 waren trainierte neuronale Netze. Software 3.0 bedeutet: Man programmiert durch Prompting.
Das klingt abstrakt, hat aber handfeste Konsequenzen. Karpathy zeigt am Beispiel von OpenClaws Installationsskript: Statt eines komplexen Shell-Skripts, das Dutzende Plattformen abdecken muss, gibt man dem KI-Agenten einfach eine Textbeschreibung des gewünschten Ergebnisses. Der Agent findet den Weg selbst.
Warum KI gleichzeitig brillant und dumm ist
Die spannendste Passage des Vortrags: Karpathys Erklärung der „Jaggedness" — der ungleichmäßigen Fähigkeitsverteilung heutiger Modelle. Warum kann ein Modell eine Million Zeilen Code fehlerfrei refaktorisieren, aber die Anzahl der Rs im Wort „Strawberry" nicht zählen?
Die Antwort liegt im Training. Heutige Frontier-Modelle werden durch Reinforcement Learning mit Verifikationsbelohnungen trainiert. Code lässt sich kompilieren und testen — das Ergebnis ist klar verifizierbar. Mathematik ebenso: 2 plus 2 ist 4. Aber Alltagslogik — soll ich 50 Meter zum Autowaschanlagen zu Fuß gehen oder mit dem Auto fahren? — lässt sich nicht so einfach in ein Belohnungssystem gießen.
Karpathys Formel: Traditionelle Computer automatisieren, was man spezifizieren kann. LLMs automatisieren, was man verifizieren kann. Wo Verifikation einfach ist, explodiert die Leistung. Wo nicht, stagniert sie.
Tiere versus Geister
Besonders einprägsam: Karpathys Metapher „Animals vs. Ghosts". Wir bauen keine Tiere — keine Wesen mit intrinsischer Motivation, Neugier oder Selbsterhaltungstrieb. Wir beschwören Geister: gezackte Formen von Intelligenz, geformt durch Daten und Belohnungsfunktionen, ohne eigenen Antrieb.
Vibe Coding hebt den Boden, Agentic Engineering die Decke
Karpathy unterscheidet zwei Ebenen: Vibe Coding hebt den Boden — jeder kann Software bauen, ohne Syntax zu verstehen. Agentic Engineering hebt die Decke — professionelle Entwickler arbeiten auf einer neuen Abstraktionsebene, bei der Geschmack, Urteil und Orchestrierung entscheidend bleiben.
Der vielleicht wichtigste Satz des Vortrags: „Man kann sein Denken auslagern, aber nicht sein Verständnis."
