Mistral AI Modelle 2026: Hardware, VRAM und Anwendungsfälle

Mistrals Modellfamilie 2026 lässt sich an einer klaren Hardwaregrenze lesen. Ministral 3 besetzt den Edge-Bereich; Small 3.2 und Devstral Small 2 bilden die 24B-Workstation-Klasse. Darüber folgen das speicherhungrige MoE-Modell Small 4 sowie die Server- und API-Modelle Devstral 2 und Medium 3.5.

Auf Consumer-Hardware sind Ministral 8B, Ministral 14B und die 24B-Modelle realistisch. Small 4 bleibt interessant, braucht aber viel Speicher. Devstral 2, Medium 3.5 und Large 3 gehören in Server-, Multi-GPU- oder API-Setups. Der Artikel ordnet diese Hardwaregrenzen ein; eine Bestenliste ist er nicht.

Wer maximale lokale Coding- und Agentenleistung sucht, sollte Qwen zum Vergleich heranziehen; für kleinere multimodale Modelle mit Audio ist Gemma 4 die passendere Alternative.

Die Mistral AI Modellfamilie 2026 im Überblick

Edge, Workstation, speicherreiche lokale Systeme und Server/API bilden die vier Klassen der Mistral-Familie 2026. Die Tabelle ordnet die einzelnen Modelle ein.

Zur Lizenzlage: Ministral, Small 3.2, Small 4 und Large 3 stehen unter Apache 2.0. Devstral 2 und Medium 3.5 nutzen eine modifizierte MIT-Lizenz mit kommerziellen Einschränkungen. Die Abgrenzung zwischen offenen Gewichten, Open Source und proprietären Modellen ist im Vergleich Open-Source vs. proprietäre KI-Modelle ausführlicher eingeordnet.

Edge-Tier: Ministral 3 (3B, 8B, 14B)

Die Ministral-3-Reihe ist Mistrals Edge-Linie: dense Transformer, Apache 2.0, 256k Kontext, Bildverarbeitung und Grössen von 3B bis 14B.

Ministral 3B belegt in Q4_K_M rund 2 GB und läuft auf fast jeder aktuellen Consumer- oder Apple-Silicon-Hardware. Sinnvolle Einsätze sind Sprach-Vorklassifizierung, On-Device-Übersetzung, Sensor-Event-Tagging und Embedded-Routing. Für generative Langform ist es zu klein.

Ministral 8B (Q4_K_M: rund 5 GB) ist der einfache lokale Standard für Chat, Zusammenfassung und leichte Tool-Workflows; RTX 3060, RTX 4070 und Mac mini 16 GB reichen dafür aus.

Mit rund 9 GB in Q4_K_M liefert Ministral 14B mehr Qualität, braucht aber Puffer für den KV-Cache. Mac mini M4 mit 32 GB, Mac mini M4 Pro 48/64 GB oder RTX 4090 sind sinnvoller als eine knappe RTX 3060.

Alle drei Varianten sind über Ollama verfügbar.

Workstation-Tier: Mistral Small 3.2 und Mistral Small 4

Mistral Small 3.2

Als 24B-Dense-Modell deckt Mistral Small 3.2 allgemeines Instruction Following ab. In Q4_K_M belegt es rund 14 GB.

Small 3.2 passt gut auf RTX 4090/5090 und Apple-Silicon-Systeme ab Mac mini M4 Pro 48/64 GB. Ein Mac mini M4 mit 32 GB ist knapp, weil Betriebssystem, Modellgewicht und KV-Cache denselben Speicherpool teilen. Heute spricht vor allem die Hardware für Small 3.2: Small 4 kann mehr, braucht aber deutlich mehr Speicher.

Mistral Small 4

Mistral Small 4 vereint Instruct, Reasoning, Multimodalität und Coding in einem MoE-Checkpoint: 119 Milliarden Gesamtparameter, 6 Milliarden aktiv pro Token, 256k Kontext, Apache 2.0.

Das MoE-Design von Small 4 reduziert den Compute-Bedarf, nicht die Speicheranforderungen. Alle 119 Milliarden Gewichte müssen im Speicher verfügbar sein, damit der Router bei jedem Token die vier richtigen Experten aktivieren kann. Ein 119B-MoE-Modell hat damit denselben Memory-Footprint wie ein 119B-Dense-Modell gleicher Quantisierung. Im Q4_K_M-Format ergibt sich ein Modellgewicht von rund 60 GB; hinzu kommt Betriebssystem-Overhead und KV-Cache.

Der Hebel ist reasoning_effort: none für schnelle Chat-Antworten, high für komplexere Reasoning- oder Coding-Aufgaben. Damit konsolidiert Small 4 frühere separate Linien für Reasoning, Vision und Coding; Devstral 2 und Medium 3.5 bleiben stärker für grosse Produktions-Setups.

Small 4 ist über llama.cpp, vLLM und SGLang verfügbar.

Coding-Fokus: Devstral Small 2 und Devstral 2

Benchmark-Hinweis: Die genannten SWE-bench-Verified-Werte stammen aus Hersteller- oder Drittquellen, nicht aus AISyndicate-eigenen Messungen. Sie sind wegen Runtime, Quantisierung, Hardware und Agenten-Harness nur grob vergleichbar.

Devstral Small 2

Mit 24B dense hat Devstral Small 2 denselben Parameterumfang wie Mistral Small 3.2, ist aber auf Code-Agenten-Workflows spezialisiert trainiert. SWE-bench Verified: 68,0 Prozent. 256k Kontextfenster, Apache 2.0 Lizenz.

Der Unterschied zu Small 3.2 ist der Zweck: Devstral Small 2 ist für Codebase-Navigation, Multi-File-Änderungen und agentic Coding-Loops optimiert. Für lokale Coding-Agenten ist es die direktere Wahl. Die Hardware-Anforderungen bleiben ähnlich (Q4_K_M: rund 14 GB).

Devstral 2

Im Dezember 2025 erschien mit Devstral 2 das 123B-Dense-Flaggschiff der Coding-Linie. SWE-bench Verified: 72,2 Prozent. Modifizierte MIT-Lizenz. 256k Kontext.

Mit rund 74 GB im Q4_K_M-Format ist Devstral 2 kein Consumer-Hardware-Kandidat. Es benötigt mindestens 80 GB adressierbaren Speicher, was in der Praxis auf Mac Studio Ultra (128 GB), Multi-GPU-Setups oder Datacenter-Hardware hinausläuft. Mit dem Erscheinen von Mistral Medium 3.5 wurde Devstral 2 im Mistral-eigenen Vibe-CLI durch Medium 3.5 ersetzt, das auf allen Coding-Benchmarks besser abschneidet.

Enterprise-Tier: Mistral Medium 3.5

Als 128B-Dense-Modell bildet Mistral Medium 3.5 das aktuelle Flaggschiff für generalistische Enterprise-Anwendungen. Es kombiniert Instruction Following, konfigurierbares Reasoning und Code-Agenten-Fähigkeiten in einem Checkpoint: SWE-bench Verified 77,6 Prozent (siehe Benchmark-Vorbemerkung im Coding-Abschnitt). Mistrals separate Reasoning-Linie Magistral ist mit Medium 3.5 weitgehend absorbiert; der reasoning_effort-Mechanismus ersetzt sie.

Für Consumer-Hardware ist Medium 3.5 nicht praktikabel. Im Q4_K_M-Format belegt es rund 77 GB. Mistrals eigene Empfehlung für Serverdeployments: 4x H100, 2x H200 oder 1x DGX B200 als Minimum. Wer die Leistung von Medium 3.5 braucht, nutzt die Mistral API. Mistral Large 3 mit 675B MoE steht eine Ebene darüber, ist aber für lokale Setups irrelevant.

Selbst hosten: Was brauche ich wirklich?

Für die Hardwarewahl zählt eine Frage: Welches Modell läuft auf dem vorhandenen System sinnvoll? Die folgende Tabelle folgt demselben Prinzip wie der Qwen-Guide: Modell, Speicherbedarf, typische Hardware. GGUF-Grössen basieren auf Q4_K_M-Quantisierung, sofern nicht anders angegeben.

Hinweis zu Apple Silicon: Unified Memory ist ein gemeinsamer RAM/VRAM-Pool, kein dedizierter GPU-VRAM.

Hinweis zur Spalte VRAM BF16 (theoretisch): Das ist ein oberer Speicheranker, keine sinnvolle lokale Zielkonfiguration. Praktisch laufen lokale Deployments quantisiert, meist Q4_K_M oder vergleichbar.

Kurz gelesen: Bis 32 GB sind Ministral 8B/14B und die 24B-Modelle realistisch. Small 4 ist ab 64 GB knapp machbar und ab 128 GB sinnvoll. Devstral 2, Medium 3.5 und Large 3 gehören in Server-, Multi-GPU- oder API-Setups.

Runtime-Optionen: Ollama, llama.cpp, LM Studio, vLLM

Für die Ministral-3-Reihe und die 24B-Modelle (Small 3.2, Devstral Small 2) führt der einfachste Weg über Ollama. Fertige Tags sind direkt verfügbar. Wer vor allem Apple-Silicon-Hardware einordnet, findet im Artikel Ollama auf dem Mac mini die breitere RAM- und Modellperspektive. Für Mistral Small 4 fehlt zum Zeitpunkt dieses Artikels ein stabiler offizieller Ollama-Tag; hier bleibt llama.cpp mit dem GGUF-Checkpoint von Hugging Face der empfohlene Weg.

Für Quantisierung und CPU/GPU-Offload bietet llama.cpp die flexible lokale Route, LM Studio deren grafische Variante. vLLM und SGLang eignen sich eher für Server-Deployments, Hochdurchsatz-Inferenz und optimierte MoE-Setups.

Empfehlung

Für einfache lokale Assistenz und Textverarbeitung genügen Ministral 8B oder 14B. Auf Workstations mit RTX 4090/5090 oder Mac mini M4 Pro 48/64 GB bilden Small 3.2 und Devstral Small 2 die saubere 24B-Klasse. Liegt der Schwerpunkt auf Coding-Agenten, ist Devstral die bessere Wahl.

Small 4 wird erst mit viel Speicher zum interessanten High-End-Schritt: 64 GB knapp, 128 GB sinnvoll. Devstral 2 und Medium 3.5 bleiben Server- oder API-Modelle.

Welches Modell für welchen Anwendungsfall?

Kurzfassung:

• Ministral 3B: Edge-Klassifizierung, Übersetzung, Sensor-/Event-Tagging.
• Ministral 8B: lokaler Allround-Assistent für Chat, leichte RAG- und Tool-Aufgaben.
• Ministral 14B: bessere Qualität für Notizen, Übersetzung und Zusammenfassung auf stärkerer Consumer-Hardware.
• Small 3.2: allgemeines 24B-Workstation-Modell für Chat, Drafting und RAG.
• Devstral Small 2: 24B-Modell für lokale Coding-Agenten und Repository-Arbeit.
• Small 4: High-End-Checkpoint für Chat, Reasoning, Vision und Coding ab sehr viel Speicher.
• Devstral 2 / Medium 3.5: Server- oder API-Klasse.

Mittelfristige Konsequenzen

Die MoE-Klasse mit über 100 Milliarden Gewichten verschiebt lokale Deployments in Richtung speicherreicher Workstations. 64 GB Unified Memory sind knapp, 128 GB werden zur sinnvollen Untergrenze für Q4. Teams müssen deshalb früher zwischen lokalem High-End-Budget und API-Abhängigkeit entscheiden.

Auch die Runtime-Wahl wird zur Architekturentscheidung. llama.cpp, vLLM und SGLang bestimmen Deployment-Pipelines, Monitoring, Skalierung, Hardware-Auslastung und Team-Know-how. Das ähnelt der Container-Runtime-Entscheidung früherer Infrastruktur-Generationen.