Mistral AI Modelle 2026: Large 4, Hardware, VRAM und Anwendungsfälle

Am 6. Oktober 2026 hat Mistral mit Large 4 sein bisher grösstes Modell vorgestellt: eine Billion Parameter, davon 49 Milliarden aktiv, nativ multimodal und als Mixture-of-Experts (MoE) gebaut. Nutzbar ist es vorerst nur als Public Preview über die API. Die Gewichte hat Mistral für Ende Oktober angekündigt; herunterladen lassen sie sich noch nicht.

An der lokalen Hardwaregrenze ändert das nichts: Consumer-Hardware trägt Ministral und die 24B-Modelle, Small 4 braucht viel Speicher, der Rest gehört in Server- oder API-Setups. Für maximale lokale Coding- und Agentenleistung lohnt der Vergleich mit Qwen, für kleinere multimodale Modelle mit Audio passt Gemma 4 besser.

Die Mistral AI Modellfamilie 2026 im Überblick

Stand 6. Oktober 2026:

Ministral, Small 3.2, Small 4 und Large 3 stehen unter Apache 2.0, Devstral 2 und Medium 3.5 unter einer modifizierten MIT-Lizenz mit Ausnahmen für umsatzstarke Unternehmen. Für Large 4 nennt die Ankündigung noch keine Lizenz. Die Abgrenzung offener Gewichte ordnet der Vergleich Open-Source vs. proprietäre KI-Modelle ein.

Mistral Large 4: API-Preview und erste externe Benchmarks

Large 4 ist ein hybrides Instruct- und Reasoning-Modell mit Bildeingabe; die Preview kostet 1,36 US-Dollar pro Million Input- und 4,18 US-Dollar pro Million Output-Tokens. Mistral selbst meldet 61,7 Prozent auf DeepSWE v1.1, 28,3 Prozent auf Terminal-Bench 4 und Spitzenplätze unter offenen Modellen in Cybersecurity, Finanzen und Recht. Das RL-Training läuft laut Mistral noch, gemessen wird ein Zwischenstand.

Externe Zahlen liefert Vals AI, auf das Mistral selbst verweist. Stand der Modellseiten am 6. Oktober:

Gleiche Bedingungen sind das nicht. Large 4 lief mit Reasoning Effort high, GPT-6 Astra und Claude Opus 5.5 mit max. Opus 5.5 hatte zudem Claude Opus 5 und Opus 4.8 als serverseitige Fallbacks für Verweigerungen (Fallback-Rate 4,21 Prozent), und einzelne Benchmarks können laut Vals andere Provider und Parameter nutzen. Dass Hersteller- und Drittwerte nicht austauschbar sind, zeigt Terminal-Bench 4: 28,3 Prozent bei Mistral, 22,73 bei Vals.

Das Muster ist trotzdem deutlich: Im Gesamtindex und bei Terminal-Aufgaben liegt Large 4 klar zurück, im Harvey-Rechtsbenchmark vorne, bei dort durchweg niedrigen Werten. Ein Vals-Index-Testlauf kostete mit Large 4 13,78 US-Dollar, mit Astra 18,46 und mit Opus 5.5 32,14; mit knapp 106 Minuten Latenz war Large 4 am langsamsten. Selbsthoster können noch nichts planen: Ohne Gewichte fehlen belastbare Speicherangaben, und 49 Milliarden aktive Parameter senken die Rechenlast pro Token, nicht den Speicherbedarf aller Gewichte.

Edge-Tier: Ministral 3 (3B, 8B, 14B)

Die Ministral-3-Reihe ist Mistrals Edge-Linie: dense Transformer, Apache 2.0, 256k Kontext und Bildverarbeitung. Ministral 3B belegt in Q4_K_M rund 2 GB und taugt für Vorklassifizierung, On-Device-Übersetzung und Routing, nicht für Langform. Ministral 8B (rund 5 GB) ist der lokale Standard für Chat, Zusammenfassung und leichte Tool-Workflows. Ministral 14B (rund 9 GB) liefert mehr Qualität, braucht aber Puffer für den KV-Cache.

Workstation-Tier: Mistral Small 3.2 und Mistral Small 4

Mistral Small 3.2

Das 24B-Dense-Modell deckt allgemeines Instruction Following ab und belegt in Q4_K_M rund 14 GB. Auf 32 GB hängt die Reserve von Kontextlänge, Runtime und parallelen Anfragen ab; 48 oder 64 GB schaffen Spielraum, sind aber keine pauschale Mindestanforderung.

Mistral Small 4

Small 4 vereint Instruct, Reasoning, Multimodalität und Coding in einem MoE-Checkpoint: 119 Milliarden Gesamtparameter, 6 Milliarden aktiv pro Token, 256k Kontext, Apache 2.0. Über reasoning_effort wechselt es zwischen schnellen Antworten (none) und Reasoning (high). MoE senkt die Rechenlast pro Token, im Speicher müssen für vollen Beschleunigerbetrieb aber alle 119 Milliarden Gewichte liegen; rund 60 GB Q4-Gewichte sind ein Planungswert vor KV-Cache und System. Für Serverdeployments nennt Mistral als Minimum 4x H100, 2x H200 oder einen DGX B200.

Coding-Fokus: Devstral Small 2 und Devstral 2

Benchmark-Hinweis: Die SWE-bench-Verified-Werte hier und bei Medium 3.5 sind Herstellerangaben ohne eigene Messung und wegen Runtime, Quantisierung und Agenten-Harness nur grob vergleichbar.

Devstral Small 2

Devstral Small 2 hat mit 24B dense denselben Umfang wie Small 3.2, ist aber auf Codebase-Navigation, Multi-File-Änderungen und agentische Coding-Loops trainiert: SWE-bench Verified 68,0 Prozent, 256k Kontext, Apache 2.0. Bei gleichem Speicherbedarf ist es für lokale Coding-Agenten die direktere Wahl.

Devstral 2

Das 123B-Dense-Flaggschiff der Coding-Linie erschien im Dezember 2025: SWE-bench Verified 72,2 Prozent, 256k Kontext, modifizierte MIT-Lizenz. Rund 74 GB Q4-Gewichte plus KV-Cache passen auf keine einzelne Consumer-GPU; Mistral nennt mindestens vier GPUs der H100-Klasse. Im eigenen Vibe-CLI hat Mistral Devstral 2 durch Medium 3.5 ersetzt, das laut Hersteller auf allen Coding-Benchmarks höher liegt.

Enterprise-Tier: Mistral Medium 3.5

Medium 3.5 verbindet als 128B-Dense-Modell Instruction Following, konfigurierbares Reasoning und Code-Agenten in einem Checkpoint, mit 77,6 Prozent auf SWE-bench Verified. Neuestes Flaggschiff ist es seit Large 4 nicht mehr. Bei rund 77 GB in Q4 und einem vLLM-Beispiel mit acht GPUs in der Modellkarte ist die Mistral API der einfachere Weg.

Selbst hosten: Was brauche ich wirklich?

Die Tabelle folgt dem Qwen-Guide. Die BF16-Spalte rechnet mit zwei Byte pro Gewicht und beschreibt nur den Gewichtsspeicher. Q4 meint Q4_K_M als groben, artefaktabhängigen Planungswert; KV-Cache, Aktivierungen und Runtime kommen hinzu. Apple Silicon teilt Unified Memory zwischen RAM und GPU.

Bis 32 GB sind Ministral 8B und 14B sowie quantisierte 24B-Modelle realistisch, für Coding-Agenten Devstral Small 2 als Kandidat für den eigenen Aufgabentest. Bei Small 4 lassen rund 60 GB Q4-Gewichte auf einem 64-GB-System kaum Reserve, ob Laden und Laufzeit dort tragen, hängt von Artefakt und Offload ab. Für dieses Modell ist 128 GB die sinnvollere Planungsklasse, eine allgemeine Untergrenze für MoE-Modelle folgt daraus nicht.

Runtime-Optionen: Ollama, llama.cpp, LM Studio, vLLM

Für Ministral und die 24B-Modelle ist Ollama mit fertigen Tags der einfachste Weg; die Apple-Silicon-Perspektive liefert Ollama auf dem Mac mini. Für Small 4 ist kein offizieller Ollama-Library-Pfad belegt. Dort bleibt ein kompatibler GGUF-Checkpoint mit llama.cpp, der flexiblen Route für Quantisierung und CPU/GPU-Offload; LM Studio ist deren grafische Variante. vLLM und SGLang zielen auf Server, Durchsatz und MoE-Setups.

Einordnung: Large 4 verschiebt die Spitze, nicht die lokale Grenze

Über die API ist Large 4 wegen des Tokenpreises einen eigenen Test wert; als Ersatz für Astra oder Opus 5.5 bei Terminal- und Allround-Arbeit tragen die Vals-Zahlen es nicht. Selbsthoster wählen bis zur Gewichtsfreigabe weiter nach Speicher. Ob Large 4 tatsächlich offene Gewichte mit tragfähiger Lizenz bringt und welche Infrastruktur es dann verlangt, lässt sich erst nach der angekündigten Freigabe prüfen.