Ollama auf dem Mac Mini: Welche Modelle auf welcher Ausstattung sinnvoll laufen

Aktualisiert im Juli 2026: Ollama auf dem Mac Mini ist schneller und vielseitiger geworden. Die MLX-Engine, neue Qwen3.6- und Gemma-4-Varianten sowie der direkte Start von Coding-Agenten verändern den praktischen Einsatz. Die wichtigste Kaufgrenze bleibt jedoch unverändert: Unified Memory lässt sich später nicht erweitern.

Der Mac mini ist deshalb kein Gerät, das nach dem grössten noch ladbaren Modell ausgewählt werden sollte. Produktiv wird lokale KI erst, wenn Modellgewichte, Kontext, KV-Cache, macOS und weitere Anwendungen gleichzeitig genügend Platz haben. 16 GB eignen sich für kompakte Assistenten, 24 GB bilden einen brauchbaren Einstieg in grössere Modelle, und 48 GB schaffen den nötigen Puffer für anspruchsvollere Agenten- und RAG-Workloads.

Warum Ollama auf dem Mac mini von Apple Silicon profitiert

Apple Silicon verbindet CPU und GPU mit einem gemeinsamen Speicherpool. Modellgewichte müssen deshalb nicht zwischen Arbeitsspeicher und separatem Grafikspeicher kopiert werden. Apple nennt für den Mac mini M4 eine Speicherbandbreite von 120 GB/s, beim M4 Pro sind es 273 GB/s. LLM-Inferenz profitiert davon, weil beim Generieren fortlaufend Gewichte aus dem Speicher gelesen werden.

Unified Memory beseitigt aber keine Kapazitätsgrenze. Ein Modell mit einer Downloadgrösse von 20 GB belegt im Betrieb mehr als diese 20 GB. Hinzu kommen Kontext und KV-Cache, die Ollama-Prozesse selbst, macOS und geöffnete Anwendungen. Lange Kontexte können den Speicherbedarf deutlich erhöhen. Wer eine Modellvariante nur knapp laden kann, hat damit noch keinen stabilen Arbeitsrechner.

Auf klassischen PCs ist dieselbe Grenze sichtbarer: Passt ein Modell nicht vollständig in den VRAM, wird ein Teil auf langsameren Arbeitsspeicher ausgelagert. Beim Mac mini bleibt der Speicherzugriff einheitlicher, dafür konkurriert jede Anwendung um denselben Pool. Das macht die Speicherkonfiguration zur wichtigsten Kaufentscheidung.

Was welche Konfiguration praktisch bringt

Die folgende Einordnung beschreibt einen sinnvollen Arbeitsbereich, nicht das technisch grösste Modell, das sich mit minimalem Kontext gerade noch starten lässt.

Bei der Modellwahl hat Qwen3.6 den grössten Aktualisierungsbedarf erzeugt. Ollama listet Qwen3.6-27B mit 17 GB und Qwen3.6-35B mit 24 GB; die MLX-Varianten werden mit 20 beziehungsweise 22 GB angegeben. Diese Zahlen beschreiben die Modelldatei, nicht den gesamten Speicherbedarf. Für Qwen3.6-27B ist ein 24-GB-Mac daher eine knappe Konfiguration. Das 35B-A3B-Modell gehört trotz nur rund 3 Milliarden aktiver Parameter pro Token vernünftigerweise auf 48 GB, weil alle Gewichte im Speicher liegen müssen.

Gemma 4 bietet eine breitere Staffelung. Die 12B-Variante benötigt laut Ollama rund 7,6 GB, Gemma 4 26B rund 18 GB und das dichte 31B-Modell rund 20 GB. Für 16 GB ist Gemma 4 12B damit ein realistischer Kandidat. 26B und 31B passen rechnerisch in 24 GB, lassen dort aber wenig Raum für lange Kontexte. Eine vertiefte Einordnung der Modellarchitekturen liefert die Qwen-Modellübersicht; den Einfluss von Q4, Q5 und Q6 erklärt der Guide zu Ollama-Quantisierung.

Was sich bei Ollama seit dem Frühjahr geändert hat

Ollama stellte seine MLX-Engine für Apple Silicon am 30. März 2026 zunächst als Preview vor. Im Juni folgten Optimierungen für höhere Ausgabegeschwindigkeit, schnellere Time to First Token und geringeren Speicherbedarf. Ollama meldete in eigenen Tests bis zu 20 Prozent mehr Output-Tempo für NVFP4 gegenüber Q4_K_M auf der aktualisierten Engine. Das ist ein belastbarer Hinweis auf den technischen Fortschritt, aber kein universeller Faktor für jeden Mac und jedes Modell.

Noch enger ist die oft zitierte Steigerung von knapp 90 Prozent. Sie gilt für Gemma 4 12B mit Multi-Token Prediction auf einem M5 Max im Aider-Polyglot-Benchmark. MTP lässt ein kleines Draft-Modell mehrere Folgetoken vorschlagen, die das Hauptmodell gemeinsam prüft. Vorhersagbarer Code profitiert davon besonders. Daraus folgt weder eine Verdoppelung aller Modelle noch derselbe Gewinn auf einem M4 Mac mini.

Auch die Nutzung hat sich erweitert. ollama launch richtet Coding-Tools wie Claude Code, Codex oder OpenCode mit einem lokalen Modell ein. Die Anthropic-Messages-Kompatibilität ermöglicht zudem Anwendungen, die dieses API-Format erwarten. Beide Funktionen stammen bereits aus Januar 2026; neu ist vor allem, dass aktuelle MLX-Modelle diese Agenten-Workflows auf Apple Silicon praktischer machen.

Benchmarks als Orientierung

Die bestehende Benchmark-Tabelle dieses Artikels beruhte auf offenen Apple-Silicon-Messungen mit Datenstand 9. Mai 2026. Diese Läufe entstanden vor den späteren MLX-Optimierungen von Ollama. Sie bleiben als historische Orientierung nützlich, dürfen aber nicht mit aktuellen MLX-, NVFP4- oder MTP-Werten gleichgesetzt werden.

Die Methodik nutzte einen 256-Token-Prompt, 512 Ausgabetoken und drei Läufe auf einem frisch gestarteten System. Der Vergleich zeigt weiterhin die Grössenordnung, aber keine aktuelle Rangliste. Wer heute Hardware auswählt, sollte das Zielmodell mit der aktuellen Ollama-Version und dem realen Kontext testen. Der Artikel zu lokalen LLM-Benchmark-Tools beschreibt, welche Messgrössen neben tok/s relevant sind.

Installation und Betrieb

Für den Einstieg genügen der macOS-Installer und wenige Befehle:

ollama pull gemma4:12b-mlx
ollama run gemma4:12b-mlx

Für Qwen3.6 gilt dieselbe Logik, etwa mit qwen3.6:27b-mlx. Wer einen Coding-Agenten starten will, kann eine unterstützte Integration direkt konfigurieren:

ollama launch codex --model qwen3.6

Der bequeme Start ersetzt keine Betriebsentscheidung. Ollama lauscht standardmässig lokal, doch Weboberflächen, Container oder geänderte Bind-Adressen können den Dienst im Netz erreichbar machen. Bei sensiblen Dokumenten gehören Authentisierung, Firewall-Regeln, Update-Routine und eine klare Log-Policy zum Setup. Für RAG kommt die Zugriffskontrolle auf Quelldokumente und Vektordaten hinzu; der RAG-Praxisguide vertieft diese Schicht.

Wo Mac-mini-Setups in der Praxis scheitern

Der häufigste Fehler ist eine Kaufrechnung nur anhand der Modelldatei. Ein 22-GB-Modell auf einem 24-GB-Mac lässt kaum Platz für Kontext und System. Das Setup startet vielleicht, wird aber unter realer Last instabil oder stark eingeschränkt.

Der zweite Fehler ist ein Benchmark ohne Versionsbezug. Ollama vor MLX, Ollama mit MLX, GGUF, NVFP4 und MTP sind unterschiedliche Messpfade. Selbst derselbe Modellname kann andere Gewichte oder Quantisierungen bezeichnen. Aussagekräftig wird ein Wert erst zusammen mit Gerät, Ollama-Version, Modell-Tag, Kontextlänge und Messmethode.

Der dritte Fehler ist die Gleichsetzung von lokal und sicher. Daten verlassen den Rechner bei lokaler Inferenz nicht automatisch. Ein offen erreichbares Webinterface oder eine ungeschützte API kann diesen Vorteil trotzdem zunichtemachen. Sicherheit entsteht aus der gesamten Betriebsarchitektur.

Verfügbarkeit Juli 2026: kaufen oder warten?

Ein verfügbarer M4 mit 16 oder 24 GB ist sinnvoll, wenn kompakte Modelle und gelegentliche lokale Inferenz genügen. Für Qwen3.6-35B, längere Agentenläufe oder anspruchsvolleres RAG sind 48 GB die belastbarere Klasse. Wer genau diese Ausstattung nicht erhält, sollte eher warten als ein knappes 24-GB-System für einen 35B-Workload zu kaufen. Ein noch nicht angekündigter Nachfolger ist dagegen keine belastbare Grundlage für die Hardwareplanung.