Unsere Einordnung

Der Ausstieg bei OpenAI und die 2-Millionen-Dollar-Entscheidung

Daniel Kokotajlo war als Zukunftsforscher bei OpenAI tätig, bevor er das Unternehmen im Jahr 2024 aus Gewissensgründen verließ. Er verzichtete dabei zunächst auf ein Aktienpaket im Wert von rund zwei Millionen Dollar, da er sich weigerte, eine weitreichende Schweigevereinbarung zu unterzeichnen. Diese untersagte es ausscheidenden Mitarbeitern, das Unternehmen jemals zu kritisieren. Erst als Kokotajlos Entscheidung öffentlich bekannt wurde und breite Kreise in der Tech-Szene sowie internen Protest auslöste, lenkte die Führung um Sam Altman ein und zahlte ihm das Geld ohne die strittige Klausel aus. Kokotajlos Fall beleuchtet die restriktiven Methoden, mit denen führende KI-Unternehmen kritische Stimmen aus den eigenen Reihen zum Schweigen bringen wollen.

Ein gefährliches Wettrennen um die absolute Macht

Im Zentrum von Kokotajlos Warnung steht das unkontrollierte Tempo der Entwicklung. Die Gründer von OpenAI, Anthropic und DeepMind seien in einem geopolitischen und unternehmerischen Wettlauf gefangen. Die Triebfeder sei dabei weniger der finanzielle Gewinn, sondern die Angst, dass ein Konkurrent als Erster die künstliche Allgemeinbildung (AGI) oder Superintelligenz erreicht und eine Art globale Vormachtstellung oder Diktatur erlangt. Dieses Misstrauen führt dazu, dass Sicherheitsbedenken in den Hintergrund rücken. Obwohl viele Verantwortliche die existenziellen Risiken privat anerkennen, hoffen sie laut Kokotajlo lediglich, die Sicherheitsfragen während des Prozesses lösen zu können.

Zusammenbruch der Zeithorizonte: Superintelligenz bis 2027

Während viele Beobachter Kokotajlos frühe Prognosen eines Durchbruchs bis 2027 zunächst als unrealistisch abtaten, bestätigen ihm heute interne Forscher von OpenAI und Anthropic, dass dieser Zeitplan der Realität entspricht. Die Unternehmen arbeiten intensiv daran, das Schreiben von Programmcode und den gesamten Forschungsprozess zu automatisieren. Gelingt diese rekursive Selbstverbesserung, bei der KIs sich selbst optimieren und neue Modelle trainieren, wird sich die Entwicklungsgeschwindigkeit drastisch beschleunigen. Kokotajlo beziffert die Wahrscheinlichkeit, dass dieser Prozess in einer Katastrophe wie der Auslöschung der Menschheit endet, auf besorgniserregende 70 Prozent. Als Gegenentwurf hat er das Szenario „AI 2040: Plan A“ ausgearbeitet, das Wege aus der Eskalationsspirale aufzeigen soll.

Drei Kernpunkte der Analyse:

1. Wettlauf-Dynamik: Die Entwicklung wird durch gegenseitiges Misstrauen der CEOs beschleunigt, was Sicherheitsvorkehrungen zur Nebensache macht.

2. Selbstoptimierung: Durch die Automatisierung von Softwareentwicklung und KI-Forschung droht eine unkontrollierbare Entwicklungsspirale noch vor Ende des Jahrzehnts.

3. Schweigeklauseln: Die Unterdrückung kritischer Stimmen durch restriktive Abfindungsverträge verhindert eine ehrliche öffentliche Debatte über die Risiken.