Unsere Einordnung

Im Gespräch mit Raj Shamani auf dem reichweitenstarken indischen Podcast Figuring Out gewährt OpenAI-CEO Sam Altman seltene Einblicke in die internen Schaltstellen des Unternehmens. Abseits der üblichen PR-Rhetorik ordnet Altman die Wendepunkte der jüngeren KI-Geschichte ein: von der riskanten Entscheidung, ChatGPT trotz gravierender Mängel zu veröffentlichen, über die wahren Motive hinter den prominenten Abgängen von Spitzenforschern wie Ilya Sutskever und Mira Murati bis hin zur Gefahr einer fatalen Machtkonzentration beim Bau von Superintelligenz.

Der Mut zum unfertigen Produkt: ChatGPT und die 5-Prozent-Hürde

Ein zentraler Enthüllungspunkt des Gesprächs betrifft die Entstehung von ChatGPT im Herbst 2022. Entgegen der nachträglichen Legendenbildung war die Veröffentlichung des Chatbots intern keineswegs unumstritten: Nach Altmans Schilderung lehnte nahezu das gesamte Führungsteam einen öffentlichen Start ab. Die Kernbegründung: Das System sei schlicht nicht gut genug und die Technologie zu früh für den Massenmarkt. Zudem wies der interne Prototyp eine Verweildauerquote von lediglich rund fünf Prozent auf - 95 Prozent der Testnutzer wandten sich nach wenigen Eingaben wieder ab.

Dass Altman die Veröffentlichung dennoch im Alleingang durchsetzte, führt er auf seine Zeit beim Startup-Inkubator Y Combinator zurück. Wer sich für die erste Version seines Produkts nicht ein wenig schäme, habe zu lange mit dem Start gewartet, da erst das Feedback realer Nutzer den entscheidenden Lernzyklus in Gang setze. Entscheidend sei nicht die Masse flüchtiger Tester gewesen, sondern die extreme Begeisterung der verbliebenen fünf Prozent. Zugleich offenbart Altman, dass OpenAI bereits im August 2022 - rund sieben Monate vor dem offiziellen Release - das Training von GPT-4 abgeschlossen hatte. Aus den dort beobachteten Skalierungseigenschaften schöpfte das Team die Überzeugung, das gesamte Firmenkapital auf den massiven Zukauf von Rechenleistung zu setzen, was später den Weg für Reasoning-Modelle und Chain-of-Thought-Architekturen ebnete.

Shakespeare-Drama und das Monopol-Dilemma

Auf die Frage nach den Gründen für die prominenten Personalabgänge der vergangenen Jahre - darunter Dario Amodei (Anthropic), Ilya Sutskever (Safe Superintelligence) und Technikchefin Mira Murati (Thinking Machines) - findet Altman eine psychologische Erklärung. Bei einer Technologie mit derart gewaltiger Tragweite entwickle sich in vielen Köpfen das Gefühl, niemand anderem bei der Entwicklung vertrauen zu können: Aus der Überzeugung, der Ansatz des jeweils anderen sei fehlerhaft, erwachse die Angst vor einer gefährlichen Machtkonzentration in fremden Händen.

Altman selbst skizziert zwei existenzielle Schreckensszenarien für die Entwicklung künstlicher Superintelligenz: Einerseits der schleichende oder abrupte Kontrollverlust, bei dem autonome Systeme die menschliche Handlungsfähigkeit irreversibel überflügeln, wie es Sicherheitsforscher auch in Berichten über täuschende Agenten und deaktivierte Überwachung befürchten. Andererseits die geopolitische oder ökonomische Monopolisierung, sollte ein einzelnes Unternehmen oder ein einziger Staat die Technologie exklusiv beherrschen. Aus diesem Grund plädiere er ausdrücklich für einen pluralistischen Wettbewerb mehrerer unabhängiger Forschungsinitiativen mit unterschiedlichen Sicherheitsansätzen statt eines Silicon-Valley-Monopols.

Die nächste Grenze: KI als wissenschaftliche Entdeckungsmaschine

Als sein primäres persönliches Ziel für die kommenden Jahre nennt Altman die Beschleunigung der Grundlagenforschung. Das Potenzial künftiger Modellgenerationen liege nicht im Verfassen von Texten, sondern in der Entdeckung neuer physikalischer Gesetzmäßigkeiten, wirksamer medizinischer Therapien und sauberer Energiequellen. Altman räumt ein, dass sein Puls in den vergangenen Jahren nur ein einziges Mal vor Aufregung gerast habe: unmittelbar vor der Veröffentlichung der internen Ergebnisse zu den Navier-Stokes-Gleichungen, an denen zuvor Generationen menschlicher Mathematiker gescheitert waren - eine Arbeit, die weltweit für Fachdiskussionen und die Gründung eines Mathematik-Beirats sorgte und die Rolle von KI bei komplexen Beweisen nachhaltig veränderte.