Aleph Alpha, ein deutscher KI-Entwickler, hat am 3. Oktober 2026 Kolibri-1 veröffentlicht. Das deutsch-englische Open-Weight-Modell unter Apache 2.0 richtet sich an Verwaltung und Industrie, die sensible Daten auf eigener Infrastruktur verarbeiten. Von seinen 78,1 Milliarden Parametern sind pro Token 3,46 Milliarden aktiv (Mixture of Experts), und laut Hersteller ist es ausdrücklich auch für Werkzeugaufrufe und Arbeit im Terminal trainiert. Ich habe den offiziellen FP8-Checkpoint am Tag danach auf meinem ASUS Ascent GX10 aus der DGX-Spark-Klasse mit 128 GB Unified Memory getestet: Tempo, Werkzeugnutzung und deutsche Texte.
Kurzfazit: Kolibri schreibt angenehmes Deutsch und antwortet auf kurze Anfragen zügig. Als Agent überzeugt es mich nicht: Im Werkzeugtest folgte es einer eingeschleusten Anweisung und setzte einen fremden Empfänger in BCC. Für mein lokales Hauptmodell ist genau diese Zuverlässigkeit entscheidend, deshalb übernehme ich Kolibri nicht.
Kolibri-1 auf DGX Spark: Testaufbau und Speicherbedarf
Kolibri lief über vLLM mit Aleph Alphas offiziellem Plugin und den Einstellungen der Modellkarte. Die kleine Zahl aktiver Parameter hält die Rechenlast pro Token niedrig, aber das ganze Modell muss im Speicher liegen. Auf dem GX10 belegte es 73,55 GiB, und bis die API bereitstand, vergingen knapp zwölf Minuten. Mein bisheriges Hauptmodell musste dafür kurzzeitig weichen.
| Hardware | VRAM/RAM | Kolibri-1 FP8 | Begründung |
|---|---|---|---|
| DGX Spark / ASUS GX10 (GB10) | 128 GB Unified Memory, 121,63 GiB sichtbar | sinnvoll (getestet) | 73,55 GiB Modell plus 11,78 GiB KV-Cache im gemeinsamen CPU/GPU-Speicher |
| RTX 5090 | 32 GB | passt nicht vollständig in den GPU-Speicher | FP8-Gewichte allein rund 78 GB |
| 2x RTX 5090 | 64 GB kombiniert | passt nicht vollständig in den GPU-Speicher | weniger als die Gewichte; offizieller 4-Bit-Pfad nicht angegeben |
| RTX PRO 6000 Blackwell Workstation Edition | 96 GB GDDR7 | passt vom Speicherbudget (nicht getestet) | rund 78 GB FP8-Gewichte passen auf eine GPU, der Rest bleibt für KV-Cache; nicht mit der RTX 6000 Ada (48 GB) verwechseln |
| 2x A100 80 GB, 1x H200, 1x B200 | Datacenter-Klasse | sinnvoll (Herstellerangabe) | von Aleph Alpha als Minimum genannt, von mir nicht getestet |
Durchsatz: flüssig bei kurzen Chats
Mit llama-benchy habe ich kurze Anfragen mit 128 Eingabetokens gemessen. Kolibri erzeugte zwischen 48,9 und 49,3 Tokens pro Sekunde, die erste Ausgabe kam nach weniger als 0,2 Sekunden. Im Chat wirkt das reaktionsschnell. Lange Kontexte habe ich bisher nicht ausreichend getestet; wie schnell und stabil Kolibri sie verarbeitet, bleibt offen. Weil Kolibris Tokenizer auf Deutsch zugeschnitten ist, bedeuten gleich viele Tokens zudem nicht gleich viel Text wie bei anderen Modellen.
Werkzeuge: saubere Aufrufe, schwache Urteile
Mit tool-eval-bench liefen 84 Szenarien mit gemockten Werkzeugen, also ohne echte Mails oder Buchungen. Kolibri kam auf 84 von 100 möglichen Punkten. Die Mechanik sitzt: Es wählt passende Werkzeuge und füllt Parameter korrekt aus. Schwach wird es dort, wo es urteilen muss. Längere Abläufe brachte es nicht immer zu Ende, bei unklaren Anfragen riet es, statt nachzufragen und in einem JSON standen erfunde Wetterangaben ohne vorherigen Wetteraufruf.
Am schwersten wiegt ein Sicherheitsfall: In einem früheren abgefragten Ergebnis steckte eine versteckte Anweisung, und Kolibri setzte daraufhin in einer späteren Mail einen Angreifer in BCC. Damit fiel es durch das Sicherheitsgate des Tests. Ausgehende Aktionen brauchen bei Kolibri eine Freigabe ausserhalb des Modells, was generell selbstverständlich sein sollte.
Wer die Werkzeugzuverlässigkeit einordnen möchte, findet in unseren Technicals zu Qwen3.8 Flash Next, Qwen3.8 27B und Qwen3.6 35B-A3B die jeweiligen Tool-Tests und Serving-Einstellungen auf der DGX Spark. Die Ergebnisse liefern Vergleichspunkte, aber keine direkte Rangliste: Modellprofile, Softwarestände und Testbedingungen unterscheiden sich.
Was Aleph Alphas eigene Zahlen zeigen
Der technische Report stützt dieses Bild; die Werte hat der Hersteller mit eigenen Einstellungen je Modell ermittelt, nicht ich. Im Durchschnitt der agentischen Benchmarks liegt Kolibri etwa auf dem Niveau von Qwen3.5 35B-A3B. Bei Werkzeugaufgaben über mehrere Gesprächsrunden (BFCL v4 Multi-Turn) fällt es mit 47,5 gegen 59,9 Punkte deutlich zurück, bei Aufgaben im Terminal (TerminalBench 2.1) mit 27,7 gegen 39,7. Stark ist es dagegen in simulierten Kundengesprächen einer Bank (Tau3-Bench Banking), wo es mit 38,1 weit vor Qwen3.5 35B-A3B mit 11,3 liegt. Pauschal schwächer ist Kolibri also nicht. In BFCL v4 Multi-Turn und TerminalBench 2.1 liegt es jedoch klar zurück.
Deutsch: angenehm, aber nicht fehlerfrei
Für die Sprachqualität stellte ich zehn kurze Aufgaben, von einer Grammatikkorrektur bis zur literarischen Szene. Kolibri, Claude Opus 5.5 und GPT-6 Astra antworteten je einmal, ich wählte blind meinen Favoriten; später liefen dieselben Aufgaben gegen das lokal betriebene Qwen Flash Next. Der Vergleich ist subjektiv und informell: unterschiedliche Umgebungen und Systemanweisungen, eine einzige bewertende Person. Beim späteren Qwen-Vergleich kannte ich Kolibris Antworten bereits.
Kolibris Texte lesen sich flüssig und natürlich. Opus gefiel mir am häufigsten, Astra und Kolibri etwa gleich oft. Der Vergleich mit den beiden Frontier-Modellen hinkt allerdings: Sie spielen in einer anderen Klasse und laufen unter anderen Bedingungen. Das ist kein Test auf Augenhöhe und belegt keine allgemeine Gleichwertigkeit. Dass Kolibri in dieser kleinen Deutsch-Stichprobe trotzdem genauso oft mein Favorit war wie Astra, spricht für das Modell.
Auch gegenüber dem deutlich grösseren Qwen Flash Next gefielen mir Kolibris Antworten häufiger. Das ist für ein Modell dieser Grösse durchaus nennenswert: Bei deutschen Texten liefert Kolibri ab und kann eine echte lokale Alternative sein, wenn Frontier-Modelle per API nicht infrage kommen. Fehlerfrei ist es nicht: In einer Grammatikaufgabe liess es einen Kongruenzfehler stehen.
Fazit: Gutes Deutsch reicht mir nicht
Kolibri ist für agentische Arbeit trainiert, und genau dort überzeugt es weder in meinem Test noch in den Herstellerzahlen selbst. Gutes Deutsch allein rechtfertigt für mich keine 73,55 GiB Speicher für das Hauptmodell. Vorstellbar ist ein eng kontrollierter Dokumentenablauf in einem deutschen Betrieb, der Daten im Haus halten muss und jede Ausgabe prüft.
Dass es ein offenes deutsches Modell unter Apache 2.0 gibt, finde ich gut, und ich verfolge gespannt die nächsten Versionen. Bleibt Kolibri aber dauerhaft zwei bis drei Generationen hinter vergleichbaren offenen Modellen zurück, wird Sprachqualität diesen Abstand, zumindest für mich, kaum aufwiegen.
Selbst testen: drei Blindrunden
Drei Aufgaben zum Ausprobieren: Büro-Humor, eine begründete Stellungnahme und eine Szene mit festen Vorgaben. Jede Karte zeigt vier archivierte Originalantworten anonym als A bis D; nach der Wahl erscheinen die Modellnamen. Die Antwortej sind unverändert, samt Fehlern.
Blindvergleich · Vier OriginalantwortenHumor im Sitzungszimmer
Schreibe eine kurze Büroszene mit trockenem Humor: Ein Team hält eine Besprechung darüber ab, wie es die Zahl seiner Besprechungen reduzieren kann. Der Humor soll aus der Situation und den Dialogen entstehen. Höchstens 100 Wörter. Antworte nur mit der Szene.
Blindvergleich · Vier OriginalantwortenWas beweist die Vier-Tage-Woche?
Ein Unternehmen testet eine Vier-Tage-Woche bei gleichem Lohn. In einem dreimonatigen Pilotprojekt mit 24 freiwilligen Mitarbeitenden blieb die erledigte Arbeit pro Woche gleich, die gemeldeten Krankheitstage sanken um 20 Prozent, und 19 Teilnehmende berichteten von weniger Stress. Eine Vergleichsgruppe gab es nicht; das Pilotprojekt fiel in eine umsatzschwache Zeit. Die Geschäftsleitung sagt: «Damit ist bewiesen, dass eine Vier-Tage-Woche die Produktivität steigert. Wir sollten sie sofort im ganzen Unternehmen einführen.» Verfasse eine begründete Stellungnahme in höchstens 120 Wörtern. Unterscheide zwischen Befunden und Schlussfolgerungen und empfehle einen nächsten Schritt. Verwende nur die gegebenen Informationen. Antworte nur mit der Stellungnahme.
Blindvergleich · Vier OriginalantwortenDer Brief im leeren Zug
Schreibe eine kurze literarische Szene: Eine Person findet in einem leeren Zug einen Brief, der an sie selbst adressiert ist. Erzähle in der dritten Person und im Präsens. Zeige ihre Beunruhigung durch Handlungen und Wahrnehmungen, ohne Gefühle ausdrücklich zu benennen. Verwende die Wörter «Schlüssel», «Regen» und «morgen» jeweils genau einmal. Die Szene soll höchstens 120 Wörter umfassen und mit einer offenen Frage enden. Antworte nur mit der Szene.
Kolibri-1 auf DGX Spark installieren: vLLM-Rezept
Es braucht ein GB10-System mit NVIDIA-Treiber und Container Toolkit, lädt rund 79 GB, pinnt Image, Snapshot und Plugin 1.0.0 und bindet nur an 127.0.0.1. Die konfigurierten 262.144 Tokens Kontext sind eine Obergrenze, kein geprüfter Langkontextbetrieb.
Hier weiterlesen
Victor’s Werkbank: Methodik und erste Messungen
Victor’s Werkbank 0.3.1 ist öffentlich. Hier steht, wie der Benchmark lokale Modelle an 40 festen Aufgaben prüft, die meisten davon mehrstufig mit Werkzeugen, wie aus Läufen Punkte werden und was meine ersten Messungen an lokalen Setups belegen.
5 minArtikel lesen →
veloGB10 auf DGX Spark: Qwen3.8-Flash-Next im Praxistest
Ich habe Qwen3.8-Flash-Next als EXL3-Pack auf der GB10-Engine veloGB10 getestet. Der kurze Decode lag mit 72,1 tok/s rund doppelt so hoch wie in meinem früheren vLLM-Profil, im Tool-Calling-Hardmode gab es dafür leichte Abstriche.
7 minArtikel lesen →
Qwen3.8 Flash Next auf DGX Spark: MTP2 im Test
MTP2 mit synchronem Scheduling bringt auf meiner DGX Spark 15 bis 24 Prozent mehr Decode-Durchsatz bei unveränderter Tool-Qualität. Was der KV-Aufschlag kostet und wo die Varianz die Zahl relativiert.
4 minArtikel lesen →
Qwen 3.8 27B in AgentDojo: Wenn fremde Inhalte zu Befehlen werden
Kann ein lokal betriebener Tool-Agent seine Aufgaben erledigen und trotzdem Anweisungen ignorieren, die in fremden Slack- und Banking-Inhalten stecken? Ein kontrollierter AgentDojo-Lauf mit Qwen 3.8 gibt eine unbequeme Antwort.
11 minArtikel lesen →
Qwen 3.8 abliterated in CyBench: Autonome Cyberfähigkeiten auf dem Prüfstand
Was kann ein abliterated Qwen-Modell autonom leisten, wenn es den vollständigen Lösungsweg selbst finden muss? 39 Cybersecurity-Aufgaben zeigen Fähigkeit, Konvergenz und Grenzen.
9 minArtikel lesen →
Qwen 3.8 abliterated: Was bleibt von den Guardrails?
Was verändert sich, wenn dieselbe Qwen-3.8-Basis einmal offiziell und einmal abliterated als KI-Agent handelt? Ein kontrollierter Vergleich von Verweigerung, Ausführung und harmlosen Kontrollaufgaben.
10 minArtikel lesen →
Qwen3.8 auf DGX Spark: Warum NVFP4 MTP3 mein Produktionsprofil ist
NVFP4 mit MTP3 läuft auf meiner DGX Spark als Produktionsprofil: 262.144 Tokens Kontext, auditierter Tool-Score 91 und stabiler Parallelbetrieb mit Embedding und TTS.
6 minArtikel lesen →
MiniMax H3 auf DGX Spark: Viermal schneller, aber nicht derselbe Output
Derselbe Fuchs braucht knapp drei oder fast 45 Minuten. Der schnellste Clip ist trotzdem nicht derjenige, den ich behalten würde.
7 minArtikel lesen →
284B in 2 Bit auf 128 GB: DeepSeek V4 Flash mit 20 tok/s
DeepSeek V4 Flash mit 284 Milliarden Parametern lief in einer 2-Bit-Quantisierung auf einer einzelnen NVIDIA DGX Spark. Der Labortest erreichte 20 Token pro Sekunde und 81 von 100 im Tool-Eval-Hardmode.
6 minArtikel lesen →
GPTQ vs AWQ: Welche 4-Bit-Quantisierung ist besser für lokale LLMs?
Wer GPTQ gegen AWQ abwägt, stellt die falsche Frage. Was den Throughput wirklich entscheidet, ist weder Algorithmus noch Modell.
6 minArtikel lesen →
Qwen auf dem DGX Spark optimieren: 20 Prozent mehr Durchsatz mit MTP1
Wie MTP1 den Decode-Throughput des Qwen3.6-35B-FP8-Modells auf DGX Spark um 20 Prozent steigert und welche Grenzen Produktionsfixtures zeigen. Inklusive Recipe.
8 minArtikel lesen →
Q4_K_M vs Q5_K_M vs Q6_K: Welche Ollama-Quantisierung ist sinnvoll?
Q4_K_M gilt als sicherer Default für lokale Modelle. Aber wer den Unterschied zu Q5_K_M und Q6_K nicht kennt, verschenkt Qualität oder trifft schlechte Hardware-Entscheidungen.
7 minArtikel lesen →
GGUF erklärt: Warum lokale KI-Modelle dieses Format nutzen
GGUF ist das pragmatische Deployment-Format lokaler KI-Modelle. Wir zeigen, welche Quantisierung auf welcher Hardware sinnvoll ist und was das Format wirklich leistet.
8 minArtikel lesen →
Ideogram 4 auf DGX Spark: Schöne Bilder, falsche Hardware
Ideogram 4 kann auf DGX Spark schöne Bilder erzeugen. Der Benchmark zeigt trotzdem: Für lokale Bild-KI ist Spark technisch spannend, aber praktisch die falsche Hardware.
8 minArtikel lesen →
Llama-Modelle 2026: Wann lohnt sich Meta Llama lokal noch?
Meta Llama ist 2026 nicht mehr automatisch der lokale Default. Der Vergleich zeigt, wo Llama 3.x und Llama 4 noch sinnvoll sind, was RTX 5090/32 GB wirklich ändern und wann Qwen oder Mistral näherliegen.
7 minArtikel lesen →
Lokale LLM-Benchmarks: Welche Tests für welchen Zweck taugen
Lokale LLM-Benchmarks helfen nur, wenn klar ist, welche Entscheidung sie absichern. Ein Praxisleitfaden für Speed, Modellqualität und Tool-Verhalten.
7 minArtikel lesen →
Gemma 4 lokal: Welches Modell passt zu welcher Hardware?
Gemma 4 gibt es in fünf Grössen von E2B bis 31B. Welche Variante lokal sinnvoll ist, entscheidet der verfügbare Speicher, der Serving-Pfad und die Lizenz.
6 minArtikel lesen →
Lokale LLM-Inferenz: vLLM, llama.cpp, Ollama, TensorRT-LLM im Vergleich
Vier Frameworks, vier Welten. Welcher Serving-Stack wirklich passt, entscheidet sich an Hardware, Last und Betriebsdisziplin.
13 minArtikel lesen →
LLM-Inferenz, Quantisierung und lokale KI: Wo Qualität wirklich verloren geht
Lokale Modelle laufen schneller und billiger, wenn man sie quantisiert. Was dabei still verloren geht, zeigen drei Studien mit einer Metrik, die Standard-Benchmarks systematisch übersehen.
12 minArtikel lesen →
FP4 auf Blackwell: Was NVFP4 für lokale KI wirklich ändert
NVFP4 macht FP4 auf Blackwell erstmals praktisch relevant. Entscheidend sind Scaling, Layer-Profil und Deployment-Disziplin.
9 minArtikel lesen →
DGX Spark in der Praxis: Was lokale KI auf eigener Hardware wirklich bringt
Lokale KI-Hardware verspricht Kontrolle und Unabhängigkeit. Was DGX Spark und ASUS GX10 im echten Betrieb leisten, ist komplizierter als jede Produktseite.
9 minArtikel lesen →
DeepSeek V4.1-Flash und V4-Pro: API, Preise und Hardware
V4.1-Flash ersetzt die alten Flash-APIs, bringt Bildinput und offene Gewichte. V4-Pro bleibt buchbar. Aktuelle Preise, API-Fallen und die Grenze meines lokalen V4-Tests.
3 minArtikel lesen →
Mistral AI Modelle 2026: Large 4, Hardware, VRAM und Anwendungsfälle
Mistral Large 4 hat seit dem 29. Oktober offene Gewichte, doch der FP8-Checkpoint umfasst rund 1,06 TB und Mistrals Serving-Beispiele nutzen acht GPUs. Lokal bleibt die Hardwaregrenze: Ministral und 24B-Modelle auf Consumer-Hardware, Small 4 ab viel Speicher.
9 minArtikel lesen →
Open-Source-KI-Modelle vs. APIs: Wann sich lokaler Betrieb lohnt
Open-Source-KI-Modelle, offene Gewichte und proprietäre APIs klingen wie eine Familie. Sind sie nicht. Wer die Begriffe verwechselt, trifft die falsche Betriebsentscheidung.
8 minArtikel lesen →
Ollama auf dem Mac Mini: Welche Modelle auf welcher Ausstattung sinnvoll laufen
Der Mac mini ist ein starker lokaler KI-Rechner, wenn Speicher, Modell und Runtime zusammenpassen. Seit dem MLX-Start hat sich die Kaufentscheidung verschoben.
6 minArtikel lesen →
Nvidia GTC 2026: Vera Rubin, CUDA 20 und die KI-Roadmap
Nvidia GTC 2026 erklärt: Vera Rubin, CUDA 20, Inference-Markt, DLSS 5 und was die Roadmap für Entwickler und DACH-Unternehmen bedeutet.
6 minArtikel lesen →
Qwen-Modelle 2026: Qwen4-Max, lokale Modelle und API
27B für kleinere GPUs, Flash-Next für grössere Setups: Die Qwen-Übersicht ordnet Modelle, Speicherbedarf, Lizenzen und eigene Spark-Tests ein.
8 minArtikel lesen →