Mercury 3 von Inception Labs: Diffusion-LLM bricht Geschwindigkeitsrekorde

Seit fast einem Jahrzehnt beruht praktisch die gesamte Welt moderner Sprachmodelle auf einem einzigen Konstruktionsprinzip: der Autoregression. Ob GPT, Claude, Gemini oder DeepSeek - sie alle setzen Text wie eine Schreibmaschine zusammen. Ein Token folgt zwingend auf das nächste, Wortteil für Wortteil, streng von links nach rechts. Jetzt unternimmt das kalifornische KI-Labor Inception Labs den bislang ambitioniertesten Versuch, dieses Monopol aufzubrechen. Mit Mercury 3 schickt das Team um Stanford-Professor Stefano Ermon ein Sprachmodell ins Rennen, das Text nicht sequenziell generiert, sondern ihn über Diffusionsprozesse parallel im Raum formt.

Nachdem das Startup bereits im Februar mit Mercury 2 einen ersten experimentellen Beweis lieferte, dass Diffusions-Architekturen für Text überhaupt kommerziell nutzbar sind, soll Mercury 3 nun die entscheidende Skalierungsfrage beantworten. Nach Unternehmensangaben ist das neue Modell in Bezug auf die Gesamtparameter um mehr als das 40-Fache gewachsen und habe seine Leistungsfähigkeit auf Standard-Benchmarks gegenüber der ersten Generation verdreifacht. Gleichzeitig klettert das Kontextfenster auf eine Million Token - ein gewaltiger Sprung gegenüber den 260.000 Token der Vorgängerversion Mercury 2.5.

Mitgründer Stefano Ermon bezeichnete die Veröffentlichung als Meilenstein für alternative Modellarchitekturen:

Paralleles Entrauschen statt Schreibmaschinen-Takt

Das Funktionsprinzip von Mercury 3 unterscheidet sich radikal von traditionellen Transformern. Autoregressive Modelle müssen für jedes einzelne Wort einen vollständigen Durchlauf durch ihre neuronalen Schichten absolvieren. Weil jedes Wort die statistische Grundlage für das nächste bildet, lässt sich dieser Rechenprozess bei der Textausgabe prinzipbedingt nicht parallelisieren. Genau hier entsteht der typische Latenz-Flaschenhals, der Nutzer beim Warten auf längere Antworten zusehen lässt.

Ein Diffusions-Sprachmodell geht den umgekehrten Weg, den Bildgeneratoren wie Midjourney oder Stable Diffusion vorgemacht haben. Statt von links nach rechts zu schreiben, beginnt das System mit einem zufälligen Rauschen über die gesamte Ziellänge der Antwort. In mehreren parallelen Durchgängen verfeinert und „entrauscht“ der Algorithmus sämtliche Token-Positionen gleichzeitig, bis sich der fertige Text kohärent herausbildet. Nach Angaben von Inception Labs ermöglicht dieser parallele Ansatz einen Inferenz-Durchsatz von bis zu 1.068 Token pro Sekunde auf NVIDIA-Grafikprozessoren - rund vier- bis achtmal schneller als gängige geschwindigkeitsoptimierte Frontier-Modelle.

1.000 Token pro Sekunde: Treibstoff für Agenten-Schleifen

Für das einfache Lesen im Chat-Fenster ist ein Durchsatz von über 1.000 Token pro Sekunde reine Spielerei - ein menschliches Auge liest selten mehr als vier bis fünf Wörter in der Sekunde. Die eigentliche Zielgruppe von Inception Labs sind vielmehr autonome Software-Agenten und Echtzeitanwendungen. Wenn ein Agent im Hintergrund eigenständig Webseiten bedient, APIs abfragt, Code debuggt oder Kundengespräche führt, laufen oft dutzende Inferenz-Schritte hintereinander ab. In solchen Schleifen summiert sich jede halbe Sekunde Verzögerung zu quälend langen Wartezeiten.

Erste Pilotpartner berichten von deutlichen Beschleunigungseffekten. Das Startup TinyFish AI ließ Mercury 3 auf 50 Aufgaben des Benchmarks Mind2Web für automatisierte Web-Navigation antreten. Nach Angaben des Unternehmens meisterte Mercury 3 die Hälfte der Aufgaben erfolgreich und schnitt damit bei gleicher Schrittzahl deutlich besser ab als OpenAIs GPT-6.1-Sol - bei einem Bruchteil der Kosten. Beim Bildungsdienst RevisionDojo liefert das System Korrekturen und Erklärungen für Schüler in rund einer Sekunde aus. Der Hardware-Entwickler Octen AI, der KI in Smart Glasses integriert, meldet bei Suchanfragen eine mediane Generierungszeit von 0,9 Sekunden und eine Gesamtlatenz von 2,2 Sekunden - ein Wert, der bei tragbaren Geräten den Unterschied zwischen einem flüssigen Dialog und einem unbrauchbaren Werkzeug ausmacht.

Agentenschwärme trainieren sich selbst

Neben den reinen Leistungswerten liefert Inception Labs ein bemerkenswertes Detail zur Entstehung des Modells. Wie Stefano Ermon gegenüber dem US-Fachportal The Deep View einräumte, setzte das Unternehmen große Schwärme früherer Mercury-3-Instanzen ein, um den Programmcode und die Architektur des finalen Modells autonom zu optimieren. Diese Methode der rekursiven Selbstverbesserung habe die Inferenzgeschwindigkeit um zusätzliche 16 Prozent gesteigert - zusätzlich zu den manuellen Optimierungen durch das menschliche Entwicklerteam.

Gleichzeitig flankiert Inception Labs den Start mit spezialisierten Ablegern. Neben dem Allround-Modell Mercury 3 steht mit Mercury Voice eine Variante bereit, deren Zeit bis zum ersten Antwort-Token (TTFAT) auf unter 170 Millisekunden gedrückt wurde, um natürliche Sprachunterbrechungen zu ermöglichen. Mit Mercury Decide bietet das Labor zudem ein extrem günstiges Klassifikationsmodell an, das Antworten mit statistischen Wahrscheinlichkeiten versieht und unsichere Fälle an menschliche Prüfer übergibt.

Die Hürden: Fehlende externe Prüfungen und Ökosystem-Macht

Trotz der beeindruckenden Kennzahlen ist Skepsis geboten. Wie das Technologiemagazin The Next Web hervorhebt, stammen sämtliche Benchmark-Ergebnisse und Leistungsvergleiche mit GPT-6 Luna oder Claude Haiku 5.5 bislang ausschließlich aus internen Tests des Herstellers. Unabhängige Überprüfungen auf neutralen Plattformen wie der Chatbot Arena oder in standardisierten Forschungs-Ranglisten stehen noch aus. Zudem hüllt sich Inception Labs bei den harten technischen Eckdaten in Schweigen: Wie viele Parameter Mercury 3 tatsächlich besitzt und auf welchen Datenmengen es trainiert wurde, legt das Unternehmen nicht offen.

Darüber hinaus kämpft die Diffusions-Technologie gegen ein enormes Beharrungsvermögen der Industrie an. Während Diffusionsmodelle bei Bildern, Video und Audio längst dominieren, investieren Schwergewichte wie Google DeepMind, OpenAI, Anthropic und Meta weiterhin nahezu ihr gesamtes Spitzenbudget in autoregressive Transformer. Zwar experimentiert auch DeepMind mit Projekten wie DiffusionGemma, doch das gesamte weltweite Entwickler-Ökosystem - von Quantisierungswerkzeugen über Inferenz-Server wie vLLM bis hin zu RAG-Pipelines - ist bis ins Detail auf die Transformer-Logik optimiert.

Für Bestandskunden hält Inception Labs zudem eine ungemütliche Überraschung bereit: Die älteren Modellversionen Mercury 2 und 2.5 wurden für Neukunden sofort gesperrt, bestehende Zugänge werden zum 15. November 2026 vollständig abgeschaltet. Wer die Technologie nutzt, wird unweigerlich zur Migration auf die neue Generation gezwungen. Weil Mercury 3 jedoch vollständig kompatibel zur OpenAI-API ist und über Plattformen wie OpenRouter, Baseten und Vercel bereitsteht, lässt sich das Diffusions-Modell in bestehenden Software-Stacks ohne größeren Umbauaufwand erproben.

Anzeige · Buch und Angebot von Markus Kirchmair

Noch ein Tool. Oder endlich weniger Arbeit?

Prüfen Sie mit No More Tools, welche Software und Abläufe Ihr Unternehmen tatsächlich braucht. Im Workshop entsteht ein priorisierter Fahrplan.

Workshop kennenlernen →