Product
WhichLLM
WhichLLM是一款开源的大语言模型选型辅助工具，能够自动检测用户本地硬件配置（如显存、内存等），结合Hugging Face平台的模型信息及主流评测基准，为用户推荐最适合在本地环境运行的大语言模型。其核心功能包括硬件兼容性分析、模型性能匹配与本地化部署建议，旨在降低用户选择和部署大模型的门槛。
Timeline (last 90 days)
Jun 3
WhichLLM是一个在GitHub上已获得700+Star的开源项目
Unverified80%
Jun 3
WhichLLM能自动检测硬件配置，从Hugging Face获取最新模型列表和量化版本信息，综合多个权威评测基准数据进行推荐
Unverified90%
Jun 3
WhichLLM会过滤虚假评测数据，并通过交叉验证多个评测基准一致性、检测异常高分、根据模型发布时间施加时间衰减因子等手段保证推荐可靠性
Unverified85%
Jun 3
WhichLLM支持模拟任意硬件配置，用户无需拥有实际硬件即可查看该配置能运行的模型级别
Unverified90%
Jun 3
WhichLLM推荐完模型后可一条命令直接开始对话，自动下载模型并配置运行环境
Unverified90%
Jun 3
WhichLLM可以通过pip install whichllm或uvx whichllm两种方式安装
Unverified95%
Jun 3
对于RTX 4090（24GB显存），WhichLLM可能会推荐Qwen3.6 27B的Q5量化版本，预计推理速度约为每秒27 Token
Unverified75%