whichllm

产品简介

whichllm 是一个给本地模型用户准备的命令行工具，解决的不是“模型够不够大”，而是“这台机器到底跑什么最合适”。

为什么现在热

它现在热起来，是因为本地推理已经进入主流，但选模型依旧很乱。whichllm 在 2026 年 6 月 10 日发布了 v0.5.9，新鲜 release 加上持续增长的 GitHub 热度，说明开发者需要的是实用的选型层，而不是又一个泛泛排行榜。

核心功能

• 自动识别 Apple Silicon、NVIDIA、AMD 和仅 CPU 的环境。
• 按硬件适配、速度和基准质量来排序，而不是只看参数量。
• 可在同一套 CLI 流程里查看硬件、比较候选并直接运行最合适的模型。

真实使用场景

• 在下载数 GB 的本地模型前先判断哪一个更值得试。
• 预估未来工作站或笔记本大致能支撑什么级别的本地模型。
• 给开发团队或本地 AI 社群建立更一致的模型推荐方式。

社区反馈

社区最买账的一点，是它把模糊的“你试试这个 8B 吧”变成了和硬件绑定的可操作建议。主要保留意见则是，排序结果仍然依赖基准覆盖范围，以及这些分数和真实任务之间的映射程度。

限制与风险

whichllm 的结论始终依赖硬件识别和基准输入本身。它不能替代你在真实 prompt、量化版本和私有任务上的实测。快速推荐也可能掩盖多语言表现、长上下文或工具调用能力上的差异。

替代方案

常见替代方向包括 LM Studio 的模型发现流程、Ollama 配合人工调研、Artificial Analysis、LMArena，以及团队自己维护的对比表。

常见问题

• 它最适合谁？ 希望快速得到本地模型起步建议、而不想手动刷一堆模型卡的开发者和玩家。
• 最先要验证什么？ 基准是否够新、显存假设是否准确，以及第一名模型在你真实提示词上的表现。