2 Beiträge
#Open Source
Alle Beiträge
Lokale KI
LLM-Inferenz, Quantisierung und lokale KI: Wo Qualität wirklich verloren geht
Lokale Modelle laufen schneller und billiger, wenn man sie quantisiert. Was dabei still verloren geht, zeigen drei Studien mit einer Metrik, die Standard-Benchmarks systematisch übersehen.
KI-Modelle
DeepSeek AI Modelle: V4, R1, API und Hardware im Vergleich
DeepSeek AI erklärt: Welche V4-, R1- und Distill-Modelle sich für API, Self-Hosting, RTX, Mac Studio oder DGX Spark eignen.
1 / 1