whichllm

Descripcion general

whichllm es una herramienta CLI para quienes quieren ejecutar modelos locales sin pasar horas comparando cuantizaciones, limites de VRAM y recomendaciones desactualizadas.

Por que esta ganando traccion ahora

Esta ganando traccion porque la inferencia local ya es corriente, pero elegir modelo sigue siendo confuso. whichllm publico la version v0.5.9 el 10 de junio de 2026 y su crecimiento en GitHub indica demanda real de una capa practica de seleccion.

Funciones clave

• Detecta automaticamente Apple Silicon, NVIDIA, AMD y entornos solo CPU.
• Ordena modelos por ajuste de hardware, velocidad y calidad de benchmark, no solo por parametros.
• Une chequeo de hardware, comparacion y ejecucion del mejor modelo en un mismo flujo CLI.

Casos de uso reales

• Decidir que modelo probar antes de descargar checkpoints pesados.
• Simular que tipo de modelo podra soportar una futura estacion de trabajo o portatil.
• Estandarizar recomendaciones de modelos locales dentro de equipos o comunidades tecnicas.

Senal de la comunidad

El mayor atractivo es que convierte consejos vagos en sugerencias ligadas al hardware real. La reserva habitual es que el ranking sigue dependiendo de la cobertura de benchmarks y de su relacion con tareas concretas.

Limites y riesgos

whichllm no sustituye la validacion sobre prompts reales, cuantizaciones concretas o tareas privadas. Un buen ranking tambien puede ocultar diferencias en multilenguaje, contexto largo o uso de herramientas.

Alternativas

Alternativas comunes: LM Studio, Ollama con investigacion manual, Artificial Analysis, LMArena y hojas comparativas internas.

Preguntas frecuentes

• Para quien encaja mejor? Para desarrolladores y usuarios de modelos locales que quieren un punto de partida rapido y razonable.
• Que conviene validar primero? La frescura del benchmark, las suposiciones de VRAM y el rendimiento del modelo lider con tus prompts reales.