whichllm

Presentation

whichllm est un outil en ligne de commande pour les personnes qui veulent utiliser des modeles locaux sans passer des heures a comparer quantisations, limites de VRAM et conseils de forum deja dates.

Pourquoi le projet accelere maintenant

Le projet accelere parce que l'inference locale est devenue courante alors que le choix du bon modele reste penible. whichllm a publie la version v0.5.9 le 10 juin 2026 et son rythme GitHub montre qu'un vrai besoin existe.

Fonctionnalites cles

• Detecte automatiquement Apple Silicon, NVIDIA, AMD et les machines CPU-only.
• Classe les modeles selon l'adaptation materielle, la vitesse et la qualite des benchmarks, pas seulement selon le nombre de parametres.
• Regroupe verification du materiel, comparaison et lancement dans un seul flux CLI.

Cas d'usage reels

• Choisir un modele local avant de telecharger des checkpoints volumineux.
• Estimer quel niveau de modele pourra tourner sur une future machine.
• Harmoniser les recommandations de modeles locaux dans une equipe ou une communaute technique.

Signal de la communaute

Le point fort percu est qu'il remplace les conseils vagues par des recommandations liees au materiel reel. La prudence recurrente concerne la dependance aux benchmarks et leur capacite a refleter les usages concrets.

Limites et risques

whichllm ne dispense pas de tests sur vos prompts, vos quantisations et vos taches privees. Les differences sur le multilingue, le long contexte ou le tool use restent a verifier soi-meme.

Alternatives

Les alternatives les plus evidentes sont LM Studio, Ollama avec recherche manuelle, Artificial Analysis, LMArena et les tableaux comparatifs faits maison.

FAQ

• Pour qui est-ce utile d'abord ? Pour les developpeurs et utilisateurs de LLM locaux qui veulent un point de depart rapide et defensable.
• Que faut-il verifier en premier ? La fraicheur des benchmarks, les hypotheses de VRAM et le comportement du modele en tete sur vos vrais prompts.