Inkling 2 Mini: Das offene Modell für den Mac mit 32 GB und was es kann

Am 20. November 2026 hat Thinking Machines Lab Inkling 2 Mini veröffentlicht, die kleine Version des offenen Modells, das die Firma Mitte des Monats herausgebracht hatte. Die Lizenz ist Apache 2.0. Du darfst das Modell also auch beruflich und in eigenen Produkten nutzen. Vom großen Bruder unterscheidet es sich vor allem in einem Punkt: Inkling 2 Mini soll auf einem Desktop-PC oder einem Mac laufen, ohne gemietete Server.

Die Modelldatei ist etwa 20 GB groß. Laut der Firma reicht ein Mac mit Apple Silicon und mindestens 32 GB Speicher.

Was ist Inkling 2 Mini?

Ein Sprachmodell, das Text und Bilder liest und mit Text antwortet. Wie Inkling 2 Small nutzt es die MoE-Technik (Mixture of Experts): Jede Schicht hat 128 "Experten", aber für jedes Wort arbeiten nur 8 davon. Die technische Neuerung ist eine andere. Von den 24 Schichten des Modells laufen die 12 mittleren dreimal mit denselben Gewichten. So "denkt" das Modell bei jedem Wort mehr nach, ohne dass der Download größer wird. Thinking Machines Lab nennt das einen Looped Transformer, also einen Transformer mit Schleife. Es ist der erste, den die Firma veröffentlicht.

Die wichtigsten Daten aus der offiziellen Modellkarte:

MerkmalInkling 2 Mini
Parameter26,4 Milliarden insgesamt, 3,4 Milliarden aktiv (5,4 Milliarden "effektiv", wenn man die drei Durchläufe mitzählt)
Ein- und AusgabeText und Bilder rein, Text raus
KontextBis zu 1 Million Tokens
LizenzApache 2.0
GrößeEtwa 20 GB (Formate NVFP4 und MXFP8)
Angegebene HardwareMac mit Apple Silicon und mindestens 32 GB Speicher, NVIDIA DGX Spark, andere Grafikkarten mit empfohlenen mindestens 32 GB VRAM
Erscheinungsdatum20. November 2026

Wie schlägt es sich gegen andere kleine Modelle?

Thinking Machines Lab vergleicht es mit Gemma 4 31B, Muse Glimmer, Qwen3.8-27B und Nemotron 3.5 Super VL. Laut dem Blog von Hugging Face, das den Start gemeinsam mit der Firma vorbereitet hat, liegt Inkling 2 Mini in 32 von 48 Tests vorn. Der stärkste Konkurrent ist Qwen3.8-27B. Hier einige Werte, die die Firma angibt. Unabhängig geprüft sind sie nicht:

TestInkling 2 MiniQwen3.8-27B
SWE-bench Verified (Programmieren)79,2 %77,8 %
BrowseComp (Websuche)79,0 %61,6 %
MCP Atlas (Nutzung von Tools)82,7 %77,3 %
OmniDocBench v1.6 (Dokumente lesen)92,8 %91,5 %
Terminal Bench v2.1 (Arbeit im Terminal)71,6 %73,0 %
AutomationBench-AA (Automatisierungen)41,8 %48,2 %

Das Bild ist klar: besser bei Recherche und Tools, gleichauf bei Code und Dokumenten, etwas schwächer bei Automatisierungen.

Wo lädst du es herunter, und mit welchen Programmen?

  • Hugging Face: die offiziellen Gewichte, dazu GGUF-Versionen mit 4 und 8 Bit für llama.cpp.
  • Ollama: Das Modell steht als inkling-2-mini (20 GB) in der Bibliothek; die offizielle Modellkarte nennt es für Macs mit Apple Silicon.
  • Unsloth und llama.cpp mit komprimierten Versionen, wenn du einen PC mit Grafikkarte nutzt.
  • Für Entwickler: Transformers, MLX, vLLM, SGLang und die Tinker-Plattform der Firma.

Wenn du noch nie ein Modell lokal genutzt hast, fang mit unserer Anleitung an: So installierst du Ollama und probierst dein erstes Modell aus.

Was ändert sich für dich bei der Arbeit?

Inkling 2 Small, dessen Gewichte am 12. November erschienen sind, hat 594 Milliarden Parameter. Dafür brauchst du Server oder einen kostenpflichtigen Dienst. Inkling 2 Mini passt dagegen auf einen Mac mit 32 GB. Dokumente, Verträge und Kundendaten bleiben so bei dir und gehen an keinen externen Dienst. Wenn du mit vertraulichen Informationen arbeitest, ist das der wichtigste Punkt.

Die Grenzen nennt die Firma selbst. Du solltest sie kennen, bevor du es ausprobierst:

  • Bei Fakten und Wissensfragen liegt es öfter daneben, manchmal mit großer Überzeugung.
  • Außerhalb des Englischen kann die Qualität sinken.
  • Manchmal hängt es in langen, sich wiederholenden Gedankengängen fest, vor allem bei der Fehlersuche im Code.
  • Wenn es Tools nutzt, kann es Dateien ohne Rückfrage löschen oder überschreiben.

Unsere Meinung: Für Zusammenfassungen, PDFs und die Suche in deinen eigenen Dokumenten lohnt sich ein Test, wenn du einen Mac mit 32 GB hast. Antworten "aus dem Gedächtnis" würden wir nicht ungeprüft übernehmen, und freien Zugriff auf Arbeitsordner würden wir ihm nicht geben. Hintergrund zur KI auf dem eigenen Rechner findest du im Artikel über Inkling 2 Small.

Häufige Fragen

Läuft Inkling 2 Mini auf einem Windows-PC?

Laut der offiziellen Modellkarte sind andere Grafikkarten möglich, empfohlen werden mindestens 32 GB VRAM. Das sind Karten der Oberklasse. Für die komprimierten GGUF-Versionen von Unsloth und llama.cpp nennt die Firma keinen Mindestspeicher.

Ist es kostenlos?

Ja, die Gewichte sind kostenlos, und die Apache-2.0-Lizenz erlaubt auch die kommerzielle Nutzung. Die Nutzungsrichtlinie der Firma gilt trotzdem.

Was ist der Unterschied zu Inkling 2 Small?

Small ist viel größer und laut der Firma in den meisten Tests besser, mit dem größten Abstand bei Fakten und Wissen. Mini verzichtet auf etwas Qualität, damit es auf einem einzigen Rechner läuft.

Offizielle Quellen

Transparenz: Dieser Artikel entsteht auch mit Hilfe von Modellen der künstlichen Intelligenz, auf Grundlage der angegebenen offiziellen Quellen, und wird vor der Veröffentlichung geprüft.

Condividi questo articolo sui tuoi socialShare this article on your social networksComparte este artículo en tus redes socialesTeile diesen Artikel in deinen sozialen Netzwerken

No products were found matching your selection.

Iscriviti alla newsletter di You vs AISubscribe to the You vs AI newsletterSuscríbete al boletín de You vs AIAbonniere den Newsletter von You vs AI