WhichLLM:基于真实硬件性能基准的本地大模型选型工具
原标题:Andyyyy64/whichllm
Python★ 3,204 stars+103 今日
速览
该项目通过实时、近期感知的基准测试,而非仅依赖参数量,来评估大模型在特定硬件上的实际表现。用户只需一条命令即可快速运行测试,从而找到最适合当前硬件配置的本地 LLM。
AI 深度解读
AI 正在阅读原文并生成深度解读…(首次约 20–40 秒,之后秒开)
查看原文 →github.com
该项目通过实时、近期感知的基准测试,而非仅依赖参数量,来评估大模型在特定硬件上的实际表现。用户只需一条命令即可快速运行测试,从而找到最适合当前硬件配置的本地 LLM。