Mistral AI Modelle 2026: Hardware, VRAM und Anwendungsfälle

Mistral AI hat die Modellfamilie 2026 neu sortiert: Edge-Modelle mit Ministral 3, eine 24B-Workstation-Klasse mit Small 3.2 und Devstral Small 2, das speicherhungrige MoE-Modell Small 4 sowie Server- und API-Modelle mit Devstral 2 und Medium 3.5.

Für Consumer-Hardware sind Ministral 8B, Ministral 14B und die 24B-Modelle realistisch. Small 4 ist spannend, braucht aber viel Speicher. Devstral 2, Medium 3.5 und Large 3 gehören in Server-, Multi-GPU- oder API-Setups. Dieser Artikel ist deshalb eine Hardware-Entscheidungshilfe, keine Bestenliste.

Die Mistral AI Modellfamilie 2026 im Überblick

Mistral deckt 2026 vier Klassen ab: Edge, Workstation, speicherreiche lokale Systeme und Server/API. Die Tabelle zeigt die grobe Modelllandkarte.

Zur Lizenzlage: Ministral, Small 3.2, Small 4 und Large 3 stehen unter Apache 2.0. Devstral 2 und Medium 3.5 nutzen eine modifizierte MIT-Lizenz mit kommerziellen Einschränkungen. Die Abgrenzung zwischen offenen Gewichten, Open Source und proprietären Modellen ist im Vergleich Open-Source vs. proprietäre KI-Modelle ausführlicher eingeordnet.

Edge-Tier: Ministral 3 (3B, 8B, 14B)

Die Ministral-3-Reihe ist Mistrals Edge-Linie: dense Transformer, Apache 2.0, 256k Kontext, Bildverarbeitung und Grössen von 3B bis 14B.

Ministral 3B belegt in Q4_K_M rund 2 GB und läuft auf fast jeder aktuellen Consumer- oder Apple-Silicon-Hardware. Sinnvolle Einsätze: Sprach-Vorklassifizierung, On-Device-Übersetzung, Sensor-Event-Tagging und Embedded-Routing. Für generative Langform ist es zu klein.

Ministral 8B (Q4_K_M: rund 5 GB) ist der einfache lokale Standard für Chat, Zusammenfassung und leichte Tool-Workflows. RTX 3060, RTX 4070 und Mac mini 16 GB reichen.

Ministral 14B (Q4_K_M: rund 9 GB) bringt mehr Qualität, braucht aber Puffer für KV-Cache. Mac mini M4 mit 32 GB, Mac mini M4 Pro 48/64 GB oder RTX 4090 sind sinnvoller als eine knappe RTX 3060.

Alle drei Varianten sind über Ollama verfügbar.

Workstation-Tier: Mistral Small 3.2 und Mistral Small 4

Mistral Small 3.2

Mistral Small 3.2 ist ein 24B-Dense-Modell für allgemeines Instruction Following. In Q4_K_M belegt es rund 14 GB.

Small 3.2 passt gut auf RTX 4090/5090 und Apple-Silicon-Systeme ab Mac mini M4 Pro 48/64 GB. Ein Mac mini M4 mit 32 GB ist knapp, weil Betriebssystem, Modellgewicht und KV-Cache denselben Speicherpool teilen. Der Grund für Small 3.2 ist heute vor allem Hardware: Small 4 kann mehr, braucht aber deutlich mehr Speicher.

Mistral Small 4

Mistral Small 4 bündelt Instruct, Reasoning, Multimodalität und Coding in einem MoE-Checkpoint: 119 Milliarden Gesamtparameter, 6 Milliarden aktiv pro Token, 256k Kontext, Apache 2.0.

Wichtig für lokale Deployments: Das MoE-Design von Small 4 reduziert den Compute-Bedarf, nicht die Speicheranforderungen. Alle 119 Milliarden Gewichte müssen im Speicher verfügbar sein, damit der Router bei jedem Token die vier richtigen Experten aktivieren kann. Ein 119B-MoE-Modell hat damit denselben Memory-Footprint wie ein 119B-Dense-Modell gleicher Quantisierung. Im Q4_K_M-Format ergibt sich ein Modellgewicht von rund 60 GB; hinzu kommt Betriebssystem-Overhead und KV-Cache.

Der Hebel ist reasoning_effort: none für schnelle Chat-Antworten, high für komplexere Reasoning- oder Coding-Aufgaben. Damit konsolidiert Small 4 frühere separate Linien für Reasoning, Vision und Coding; Devstral 2 und Medium 3.5 bleiben stärker für grosse Produktions-Setups.

Small 4 ist über llama.cpp, vLLM und SGLang verfügbar.

Coding-Fokus: Devstral Small 2 und Devstral 2

Benchmark-Hinweis: Die genannten SWE-bench-Verified-Werte stammen aus Hersteller- oder Drittquellen, nicht aus AISyndicate-eigenen Messungen. Sie sind wegen Runtime, Quantisierung, Hardware und Agenten-Harness nur grob vergleichbar.

Devstral Small 2

Devstral Small 2 hat denselben Parameterumfang wie Mistral Small 3.2 (24B dense), ist aber auf Code-Agenten-Workflows spezialisiert trainiert. SWE-bench Verified: 68,0 Prozent. 256k Kontextfenster, Apache 2.0 Lizenz.

Der Unterschied zu Small 3.2 ist der Zweck: Devstral Small 2 ist für Codebase-Navigation, Multi-File-Änderungen und agentic Coding-Loops optimiert. Für lokale Coding-Agenten ist es die direktere Wahl. Die Hardware-Anforderungen bleiben ähnlich (Q4_K_M: rund 14 GB).

Devstral 2

Devstral 2 ist das 123B-Dense-Flaggschiff der Coding-Linie und erschien im Dezember 2025. SWE-bench Verified: 72,2 Prozent. Modifizierte MIT-Lizenz. 256k Kontext.

Mit rund 74 GB im Q4_K_M-Format ist Devstral 2 kein Consumer-Hardware-Kandidat. Es benötigt mindestens 80 GB adressierbaren Speicher, was in der Praxis auf Mac Studio Ultra (128 GB), Multi-GPU-Setups oder Datacenter-Hardware hinausläuft. Hinweis: Mit dem Erscheinen von Mistral Medium 3.5 wurde Devstral 2 im Mistral-eigenen Vibe-CLI durch Medium 3.5 ersetzt, das auf allen Coding-Benchmarks besser abschneidet.

Enterprise-Tier: Mistral Medium 3.5

Mistral Medium 3.5 ist ein 128B-Dense-Modell und Mistrals aktuelles Flaggschiff für generalistische Enterprise-Anwendungen. Es kombiniert Instruction Following, konfigurierbares Reasoning und Code-Agenten-Fähigkeiten in einem Checkpoint: SWE-bench Verified 77,6 Prozent (siehe Benchmark-Vorbemerkung im Coding-Abschnitt). Mistrals separate Reasoning-Linie Magistral ist mit Medium 3.5 weitgehend absorbiert; der reasoning_effort-Mechanismus ersetzt sie.

Für Consumer-Hardware ist Medium 3.5 nicht praktikabel. Im Q4_K_M-Format belegt es rund 77 GB. Mistrals eigene Empfehlung für Serverdeployments: 4x H100, 2x H200 oder 1x DGX B200 als Minimum. Wer die Leistung von Medium 3.5 braucht, nutzt die Mistral API. Mistral Large 3 mit 675B MoE steht eine Ebene darüber, ist aber für lokale Setups irrelevant.

Selbst hosten: Was brauche ich wirklich?

Die wichtigste Frage lautet: Welches Modell läuft auf der vorhandenen Hardware sinnvoll? Die folgende Tabelle folgt dem gleichen Prinzip wie der Qwen-Guide: Modell, Speicherbedarf, typische Hardware. GGUF-Grössen basieren auf Q4_K_M-Quantisierung, sofern nicht anders angegeben.

Hinweis zu Apple Silicon: Unified Memory ist ein gemeinsamer RAM/VRAM-Pool, kein dedizierter GPU-VRAM.

Hinweis zur Spalte VRAM BF16 (theoretisch): Das ist ein oberer Speicheranker, keine sinnvolle lokale Zielkonfiguration. Praktisch laufen lokale Deployments quantisiert, meist Q4_K_M oder vergleichbar.

Kurz gelesen: Bis 32 GB sind Ministral 8B/14B und die 24B-Modelle realistisch. Small 4 beginnt ab 64 GB nur knapp und wird ab 128 GB sinnvoll. Devstral 2, Medium 3.5 und Large 3 gehören in Server-, Multi-GPU- oder API-Setups.

Runtime-Optionen: Ollama, llama.cpp, LM Studio, vLLM

Ollama ist der einfachste Einstiegspunkt für die Ministral-3-Reihe und die 24B-Modelle (Small 3.2, Devstral Small 2). Fertige Tags sind direkt verfügbar. Wer vor allem Apple-Silicon-Hardware einordnet, findet im Artikel Ollama auf dem Mac mini die breitere RAM- und Modellperspektive. Für Mistral Small 4 gibt es zum Zeitpunkt dieses Artikels keinen stabilen offiziellen Ollama-Tag; hier ist llama.cpp mit dem GGUF-Checkpoint von Hugging Face der empfohlene Weg.

llama.cpp ist die flexible lokale Route für Quantisierung und CPU/GPU-Offload. LM Studio ist die grafische Variante davon. vLLM und SGLang gehören eher in Server-Deployments, Hochdurchsatz-Inferenz und optimierte MoE-Setups.

Empfehlung

Für einfache lokale Assistenz und Textverarbeitung reichen Ministral 8B oder 14B. Für Workstation-Setups mit RTX 4090/5090 oder Mac mini M4 Pro 48/64 GB sind Small 3.2 und Devstral Small 2 die saubere 24B-Klasse; Devstral ist die bessere Wahl, wenn Coding-Agenten der Hauptzweck sind.

Small 4 ist der interessante High-End-Schritt, aber erst mit viel Speicher: 64 GB knapp, 128 GB sinnvoll. Devstral 2 und Medium 3.5 bleiben Server- oder API-Modelle.

Welches Modell für welchen Anwendungsfall?

Kurzfassung:

• Ministral 3B: Edge-Klassifizierung, Übersetzung, Sensor-/Event-Tagging.
• Ministral 8B: lokaler Allround-Assistent für Chat, leichte RAG- und Tool-Aufgaben.
• Ministral 14B: bessere Qualität für Notizen, Übersetzung und Zusammenfassung auf stärkerer Consumer-Hardware.
• Small 3.2: allgemeines 24B-Workstation-Modell für Chat, Drafting und RAG.
• Devstral Small 2: 24B-Modell für lokale Coding-Agenten und Repository-Arbeit.
• Small 4: High-End-Checkpoint für Chat, Reasoning, Vision und Coding ab sehr viel Speicher.
• Devstral 2 / Medium 3.5: Server- oder API-Klasse.

Mittelfristige Konsequenzen

Zwei Konsequenzen bleiben.

Erstens verschiebt die MoE-Klasse mit über 100 Milliarden Gewichten lokale Deployments in Richtung speicherreicher Workstations. 64 GB Unified Memory sind knapp, 128 GB werden zur sinnvollen Untergrenze für Q4. Teams müssen deshalb früher zwischen lokalem High-End-Budget und API-Abhängigkeit entscheiden.

Zweitens wird die Runtime-Wahl zur Architekturentscheidung. llama.cpp, vLLM und SGLang bestimmen Deployment-Pipelines, Monitoring, Skalierung, Hardware-Auslastung und Team-Know-how. Das ähnelt der Container-Runtime-Entscheidung früherer Infrastruktur-Generationen.