Der Beitrag
Thinking Machines Lab hat am 20. November 2026 Inkling 2 Mini veröffentlicht - ein offenes Sprachmodell unter Apache-2.0-Lizenz, das auf einem regulären Laptop läuft und bei Programmier- sowie Rechercheaufgaben deutlich größere Modelle herausfordert. Nach dem ersten offenen Modell Inkling und der früheren Lokalvariante Inkling-Small setzt das Unternehmen von Mira Murati erstmals auf eine sogenannte Looped-Transformer-Architektur.
Statt wie klassische Sprachmodelle jede Schicht nur einmal pro Wortbaustein (Token) zu durchlaufen, schickt Inkling 2 Mini seine mittleren Schichten dreimal hintereinander durch eine Schleife. Das Modell besitzt laut Hersteller insgesamt 26,4 Milliarden Parameter im Mixture-of-Experts-Aufbau, wovon 3,4 Milliarden aktiv sind - durch das dreifache Schleifen entsprechen die Berechnungen 5,4 Milliarden Gewichtungsaktivierungen pro Token. Von den 24 gespeicherten Schichten (aufgeteilt in vier Blöcke zu je sechs Schichten) laufen die beiden mittleren Blöcke dreimal, sodass pro Token faktisch 48 Schichtanwendungen entstehen.
Drei Schleifen statt Giganten-Größe - und stark im unabhängigen Test
Der Vorgänger Inkling 2 Small umfasste 594 Milliarden Parameter und sprengte damit normale Arbeitsrechner. Inkling 2 Mini wurde hingegen nativ in 4-Bit-Präzision (NVFP4) trainiert - lediglich die letzten vier Schichten arbeiten in 8-Bit (MXFP8) - und belegt laut Thinking Machines rund 20 Gigabyte Speicher. Es verarbeitet Text sowie Bilder und bietet ein Kontextfenster von einer Million Tokens.
Nach Angaben des Herstellers führt Inkling 2 Mini alle Open-Weights-Modelle unter 100 Milliarden Parametern bei agentischen Programmier-Benchmarks wie DeepSWE v1.1 (48,2 Prozent), SWE-bench Pro v2 Hard (77,9 Prozent) und dem Vals Index v2.2 (46,5 Prozent) an. Unabhängige Messungen von Artificial Analysis bestätigen die hohe Effizienz: Auf dem Intelligence Index erreicht Inkling 2 Mini 20 Punkte und zieht damit mit Qwen3.8 27B (xhigh) und Nanbeige4.3-33B gleich - bei rund fünf- beziehungsweise sechsmal weniger aktiven Parametern.
Interessant ist das Verhältnis von Ausgabelänge und Rechenaufwand: Laut Artificial Analysis erzeugt Inkling 2 Mini pro Testaufgabe zwar rund 38 Prozent mehr Ausgabetokens als Qwen3.8 27B (im Schnitt 152.000 statt 110.000), benötigt aber rund 2,8-mal weniger Rechenleistung, arbeitet viermal schneller (9,0 statt 38,2 Minuten) und kostet über die Anbieter-API rund sechsmal weniger (0,59 statt 3,53 US-Dollar pro Aufgabe). Im Vergleich zu proprietären Cloud-Modellen bleibt jedoch Abstand: GPT-6 Luna (max) kommt im selben Test auf 28 Punkte bei 0,15 US-Dollar pro Aufgabe.
Ohne Websuche dünnes Faktenwissen - mit Werkzeugen an der Spitze
Die kompakte Größe hat eine klare Kehrseite, die Thinking Machines offen benennt: Das Schleifen von Schichten verbessert logisches Schließen, speichert aber kein zusätzliches Faktenwissen. Bei reinen Wissenstests wie AA-Omniscience (-8,6 Punkte) liegt Inkling 2 Mini lediglich auf dem Niveau anderer Kleinstmodelle. Auch bei mehrstufigen Dialogen (50,0 Prozent in MultiChallenge) und strikten Regelvorgaben (33,4 Prozent in ComplexConstraints v1.1) bleibt es laut Hersteller hinter Qwen3.8 27B zurück.
Sobald jedoch eine Websuche zugeschaltet wird, dreht sich das Bild. Im unabhängigen Search Intelligence Leaderboard von Parallel klettert Inkling 2 Mini um 61,5 Punkte - der größte Sprung im gesamten Testfeld (zum Vergleich: Fable 5.2 legt 29,5 Punkte zu). Mit 78,4 Punkten übernimmt es Platz 1 unter allen Open-Weights-Modellen (vor Hy4 mit 75,4 Punkten) sowie Platz 9 insgesamt und führt das Effizienz-Ranking mit 25,80 US-Dollar pro korrekter Antwort an - etwa ein Fünftel der Kosten von Hy4 (125 US-Dollar).
Läuft ab 16 GB RAM - und auf Apple Silicon schneller als Cloud-Konkurrenz
Für den lokalen Einsatz unterstützt Thinking Machines zum Start Macs mit mindestens 32 Gigabyte Arbeitsspeicher über Ollama sowie Nvidias Desktop-Rechner DGX Spark, auf dem Stanford-Forschende laut Hersteller eine Energieeffizienz von 0,703 „Intelligence per Joule“ gemessen haben sollen (gegenüber 0,430 bei Qwen3.6-35B-A3B und 0,159 bei Gemma-4-26B-A4B). Über quantisierte GGUF-Fassungen von Unsloth AI und llama.cpp sinkt der Speicherbedarf weiter: Laut Unsloth genügen 13 bis 15 Gigabyte für die 3-Bit- und 17 bis 18 Gigabyte für die 4-Bit-Version.
Wie schnell die Architektur auf Consumer-Hardware läuft, zeigen auf X dokumentierte Messungen von EXO Labs: Auf einem Apple M5 Ultra erreicht Inkling 2 Mini demnach 210 Tokens pro Sekunde bei der Ausgabe (Decode) und 3.620 Tokens pro Sekunde beim Einlesen (Prefill), auf einem MacBook Pro mit M5 Max noch 125 beziehungsweise 1.750 Tokens pro Sekunde. In einer direkten Demo baute das lokale Modell eine native Wetter-App 1,8-mal schneller als Claude Sonnet 5.5.
Verdecktes Denken: Was das Schleifen für die KI-Kontrolle bedeutet
Parallel zu Inkling 2 Mini stellt Thinking Machines mit TML-d24-varloop-research eine Forschungsvariante mit variabler Schleifenzahl auf Hugging Face bereit. Hintergrund ist eine heikle Sicherheitsfrage: Bisher überwachen Sicherheitsforscher die sichtbare Gedankenkette (Chain of Thought) eines Modells. Rechnet ein Looped Transformer jedoch mehrfach intern zwischen zwei Wörtern, bleibt ein Teil des Denkprozesses unsichtbar.
Laut den Tests des Herstellers steigt der Zeithorizont ohne ausgeschriebene Gedankenkette von 16 Sekunden (ein Durchlauf) auf 37 Sekunden (drei Durchläufe). Bei fünf Durchläufen halbiert sich die Länge der Gedankenkette im Schnitt von 3.703 auf 1.661 Tokens, bleibe aber laut Thinking Machines weiterhin menschlich lesbar und zeige keine Zunahme verdeckter Sabotageversuche. Dennoch warnt Gründerin Mira Murati auf X ausdrücklich: Bei dieser Modellgröße bleibe der Denkprozess zwar überwachbar - bei größeren Modellen müsse das aber nicht so bleiben.
🎯 Was das für die Praxis bedeutet
1. Lokale Coding-Agenten realistisch prüfen: Wer sensible Quellcodes nicht an Cloud-APIs senden darf, erhält mit Inkling 2 Mini unter Apache 2.0 erstmals ein kompaktes Open-Weights-Modell, das auf 32-GB-Laptops oder ab 16 GB RAM (quantisiert) produktiv programmiert.
2. Immer mit Suche und Werkzeugen koppeln: Für reine Faktenabfragen ohne Internetzugang taugt das 26-Milliarden-Modell kaum. Seine Stärke entfaltet es erst in Agenten-Workflows mit angebundener Websuche, Datenbanken oder MCP-Schnittstellen.
3. Cloud-Preisvergleich nüchtern rechnen: Wer keine lokale Ausführung braucht, fährt bei reinen API-Aufrufen mit effizienten Cloud-Modellen wie GPT-6 Luna laut unabhängigen Benchmarks teils günstiger und qualitativ stärker.
Quellen
Anzeige · Buch und Angebot von Markus Kirchmair
Noch ein Tool. Oder endlich weniger Arbeit?
Prüfen Sie mit No More Tools, welche Software und Abläufe Ihr Unternehmen tatsächlich braucht. Im Workshop entsteht ein priorisierter Fahrplan.
