whichllm

Uberblick

whichllm ist ein CLI fuer Menschen, die lokale Modelle nutzen wollen, aber keine Lust haben, GGUF-Varianten, Speichergrenzen und veraltete Modelltipps manuell gegeneinander zu halten.

Warum es gerade Aufmerksamkeit bekommt

Das Projekt bekommt gerade viel Aufmerksamkeit, weil lokale Inferenz zwar normaler wird, die Modellauswahl aber chaotisch bleibt. whichllm veroeffentlichte am 10. Juni 2026 die Version v0.5.9 und trifft mit seinem praktischen Auswahlfokus einen echten Bedarf.

Wichtige Funktionen

• Erkennt Apple Silicon, NVIDIA, AMD und CPU-only Systeme automatisch.
• Ordnet Modelle nach Hardware-Fit, Geschwindigkeit und Benchmark-Qualitaet statt nur nach Parametern.
• Verbindet Hardware-Check, Modellvergleich und Start in einem CLI-Ablauf.

Praktische Einsatzfalle

• Vor einem grossen Download eingrenzen, welches lokale Modell zuerst getestet werden sollte.
• Abschatzen, welche Modellklasse ein kuenftiger Laptop oder Arbeitsplatz tragen kann.
• Empfehlungen fuer lokale Modelle in Teams oder Bastler-Communities vereinheitlichen.

Community-Signal

Gut ankommt, dass whichllm unpraezise Modelltipps durch hardwarebezogene Empfehlungen ersetzt. Die Skepsis liegt darin, dass jede Rangfolge am Ende von der Benchmark-Abdeckung und deren Aussagekraft fuer reale Workloads abhaengt.

Grenzen und Risiken

whichllm spart Auswahlzeit, ersetzt aber keine echte Validierung auf eigenen Prompts, Quantisierungen oder privaten Daten. Gerade Mehrsprachigkeit, Tool Use und lange Kontexte muessen separat geprueft werden.

Alternativen

Naheliegende Alternativen sind LM Studio, Ollama plus eigene Recherche, Artificial Analysis, LMArena und hausinterne Vergleichstabellen.

FAQ

• Fuer wen passt es zuerst? Fuer Entwickler und lokale LLM-Nutzer, die schnell einen belastbaren Startpunkt brauchen.
• Was sollte man zuerst pruefen? Benchmark-Aktualitaet, VRAM-Annahmen und die Qualitaet des Top-Modells auf echten Prompts.