最后更新:11/3/2026最后核验:2026-10-24

llmfit

llmfit 评测

6
0

llmfit 是开源终端工具:检测电脑的 RAM、CPU 和 GPU,为数百个开源大模型按适配度、速度、质量和上下文长度打分,告诉你哪些模型能在你的机器上流畅运行。

免费

llmfit 是什么

llmfit 是一款免费开源的终端工具,帮助你根据电脑配置,寻找有望在本地流畅运行的大语言模型(LLM)。它会检测系统内存、CPU 核心数和 GPU 显存等硬件信息,再从硬件适配度、速度、质量和上下文长度等维度,为数百款 LLM 评分。你可以通过交互式终端界面、命令行选项或本地网页面板浏览推荐结果。

核心功能

  • 检测系统内存、CPU 核心数、GPU 显存及已安装的运行时后端,生成硬件配置概况
  • 根据硬件适配度、预估速度、模型质量和上下文长度,为数百款模型评分并排序
  • 提供交互式终端界面(TUI)和命令行(CLI)模式,支持搜索、筛选、模型对比及 JSON 输出
  • Plan 模式可预估所选模型需要的显存与系统内存
  • 通过 llmfit serve 命令提供本地 REST API 和网页面板
  • 支持结构化 JSON 输出,便于编写脚本和实现自动化

最适合

希望根据现有电脑配置选择本地 LLM 的用户为本地编程助手和 AI 开发工作流对比模型的开发者希望在下载模型前评估 GPU 显存、系统内存和 CPU 性能是否够用的用户偏好终端工具和命令行自动化的技术用户希望通过 JSON 或 REST API,围绕本地模型推荐结果构建脚本的团队或个人

定价

llmfit 标注为免费开源项目。现有资料未说明是否提供付费套餐、是否有使用限制,或是否提供商业支持。

优缺点

优点

  • 基于实际检测到的电脑硬件推荐模型,让结果更贴合当前配置
  • 综合考虑硬件适配度、速度、质量和上下文长度,而非仅凭单一指标排名
  • 既提供交互式终端界面,也支持便于脚本处理的 CLI 输出
  • Plan 模式可在尝试运行模型前,帮助预估显存与内存需求
  • 提供本地 REST API 和网页面板,不局限于终端使用
  • 项目开源,便于用户查看代码并按需使用和修改

缺点

  • 主要面向熟悉终端操作和本地 AI 软件的用户
  • 评分和硬件需求预估仅供参考,不保证实际运行表现
  • 推荐结果依赖硬件检测及已安装运行时后端信息的准确性
  • 现有资料未说明支持的操作系统、运行时后端及模型信息更新频率
  • 用户可能仍需另行安装和配置本地 LLM 运行时

替代工具

Ollama

Ollama 是本地 LLM 运行时和模型管理工具,可通过终端下载并运行模型。

LM Studio

LM Studio 提供图形化桌面界面,方便用户查找、下载和运行本地大语言模型。

llama.cpp

llama.cpp 是开源推理项目,可在多种硬件配置上运行兼容的本地大语言模型。

Jan

Jan 是用于运行本地 AI 模型的桌面应用,适合希望通过图形界面完成本地 LLM 工作流的用户。

常见问题

详情

平台

macOSWindowsLinux

功能特性

  • Detects system RAM, CPU cores, GPU VRAM, and installed runtime providers to build a hardware profile
  • Scores models across fit, quality, speed, and context to rank what runs well on your machine
  • Interactive TUI plus CLI modes with search, filters, model comparison, and JSON output for scripting
  • Plan mode estimates VRAM/RAM needs for a chosen model, and llmfit serve exposes a local REST API and web dashboard

支持语言

en

已知限制

  • Licensed under MIT but provided as-is; fit and speed numbers are estimates computed from hardware specs, not real benchmarks
  • Model scores depend on the bundled Hugging Face model database, so very new models may be missing until the catalog updates
  • Runs in the terminal only (TUI/CLI/REST); there is no hosted web app, no Chinese UI, and no mobile version

为此工具评分

相关工具