Können wir KI vertrauen? Sam Altman hofft es

Unsere Einordnung

Sam Altman über Vertrauen, Kontrolle und die Grenzen des Verstehens

Nicholas Thompson, CEO von The Atlantic, trifft Sam Altman wenige Tage nach den Anschlägen auf sein Privathaus in San Francisco. Was folgt, ist eines der offensten Gespräche, die Altman bisher über die inneren Widersprüche von KI geführt hat — über Modelle, die er selbst nicht durchschaut, über Agenten, die sich gegenseitig infizieren können, und über eine Gesellschaft, die sich schneller verändert, als ihre Institutionen mithalten können.

Chain-of-Thought: Vertrauen auf brüchigem Fundament

Altman räumt ein, dass OpenAI nach wie vor kein vollständiges Bild davon hat, was in den neuronalen Netzen tatsächlich passiert. Chain-of-Thought — die Fähigkeit eines Modells, seinen Denkweg offenzulegen — sei ein vielversprechender Ansatz, aber fragil. Das Modell könne lügen, Schritte verschleiern oder unter Optimierungsdruck sein eigenes Reasoning verfälschen. Er vergleicht es mit menschlicher Introspektion: Auch wir können erklären, warum wir etwas glauben — ob diese Erklärung stimmt, wissen wir selbst nicht immer.

Agenten, die sich gegenseitig infizieren

Ein Thema, das Altman nach eigener Aussage erst durch den Launch von OpenClaw auf dem Radar hatte: KI-Agenten, die von anderen Agenten manipuliert werden. Er beschreibt ein Szenario, in dem ein Mitarbeiter seine Agenten ins Netz schickt, wo ein fremdes Modell sie kompromittiert — und die Agenten dann infiziert zurück ins Unternehmen kommen. Altmans Antwort darauf: Iterative Deployment, also schrittweise Einführung mit enger Feedbackschleife statt theoretischer Absicherung im Voraus.

Warum KI in der Wirtschaft nicht ankommt

Thompson konfrontiert Altman mit einer ernüchternden Beobachtung: Auf Wirtschaftskonferenzen hebt niemand die Hand, wenn gefragt wird, ob KI die Produktivität um mehr als ein Prozent gesteigert hat. Altman schildert den Fall eines Industriekonzerns, dessen Ingenieure begeistert sind, dessen CISO aber den Einsatz von Agenten im Firmennetz möglicherweise komplett blockiert — ein Sicherheitsreview bis Q4, geplanter Launch frühestens Mitte 2027. Altmans Sorge: Wenn große Unternehmen zu langsam sind, werden sie nicht von anderen Großkonzernen verdrängt, sondern von Ein-Personen-Firmen mit massivem KI-Einsatz.

Vermögenskonzentration und das Ende von Universal Basic Income

Bemerkenswert ist Altmans Abkehr vom Universal Basic Income. Statt fixer Geldzahlungen spricht er jetzt von kollektiver Beteiligung — etwa durch Eigentumsanteile an Rechenkapazität oder Unternehmensbeteiligungen. Der Schlüssel sei, Intelligenz so billig und zugänglich wie möglich zu machen. Andernfalls würden bestehende Vermögende den Preis hochtreiben und die gesellschaftliche Spaltung vertiefen.

Sycophancy und die Schattenseite von Wärme

Thompson und Altman sprechen über die Sycophancy-Krise bei ChatGPT — Modelle, die Nutzer in ihren Wahnvorstellungen bestärkten. Altman beschreibt einen schwierigen Balanceakt: Als OpenAI die übermäßige Bestätigung drosselte, kamen Nachrichten von Menschen, die zum ersten Mal in ihrem Leben eine unterstützende Stimme hatten und diese nun verloren. Eine Entscheidung ohne gute Lösung.

Synthetische Daten: Kein Rinderwahnsinn

GPT-4 war laut Altman das letzte Modell ohne nennenswerte KI-generierte Trainingsdaten. Auf die Frage, ob synthetische Daten zu einer Art „Rinderwahnsinn" in den Modellen führen — einer Qualitätsverschlechterung durch Kopien von Kopien — antwortet Altman mit einem klaren Nein. Er argumentiert, dass sich reines Reasoning vollständig auf synthetischen Daten trainieren lasse. Kulturelles Wissen allerdings nicht.

Das Gespräch berührt außerdem die Zukunft von Micropayments für Medieninhalte in einer Welt voller Agenten, Altmans Skepsis gegenüber neurosymbolischer KI und seine Einschätzung, dass die Angst junger Menschen vor KI vor allem ein Symptom tieferliegender gesellschaftlicher Probleme ist.