最后更新:11/18/2026最后核验:2026-11-13
Edge0 是什么
Edge0 是一套开源的端侧 AI 技术栈,让聊天、写代码和智能体任务在自己的硬件上运行。它由开放权重的 Edge0 语言模型和 edge0-infer 推理引擎组成,引擎提供命令行、OpenAI 兼容的本地服务和 Edge0 Chat 桌面应用。最新的 Edge0-145B 和 Edge0-120B(2026 年 11 月发布)是基于 Qwen3.8-Flash-Next 衍生、原生 4 bit 训练的潜在混合专家(latent MoE)模型,可在 Linux 或 Windows 下用单张 NVIDIA 显卡运行。本地推理不产生按 token 计费的云端 API 费用,但硬件和电费仍要自己承担。
核心功能
- Hugging Face 上提供 Edge0-145B 和 Edge0-120B 开放权重,有 Q3_K 和 NVFP4 两种版本。
- 较小的 Edge0-35B、Edge0-8B 面向手机;README 写明 8B 的原生引擎支持仍在计划中。
- edge0-infer 命令行提供 run、chat、bench、serve、info 命令。
- 本地服务兼容 OpenAI 接口,并为原生模型支持 Anthropic Messages API(POST /v1/messages)。
- Edge0 Chat 桌面应用:0.2.0 版提供 Windows x64 和 Windows Arm64 安装包,模型权重需另行下载。
- 专家权重在显存、内存和 SSD 之间流式调度,让大型稀疏模型能跑在消费级硬件上。
- 按 GitHub README,Edge0-35B 可在 macOS(Metal)、iOS(Metal)、Android(CPU)、Linux(CPU)和 Windows(CPU 或 Vulkan)上运行。
最适合
有 NVIDIA 显卡、想在本地用大模型写代码和跑智能体的开发者。要求代码和文档留在自有硬件上、不想调用云端模型 API 的团队。需要 OpenAI 或 Anthropic 兼容本地接口来接入现有工具的开发者。想评测或微调开放权重混合专家模型的研究者。
定价
Edge0 可免费下载和运行。推理代码采用 Apache-2.0。模型权重采用 Edge0 Community Model License 1.0(2026 年 11 月 12 日版):个人、研究、企业内部使用以及输出内容的商用都免费;但出售模型访问、提供付费推理或微调服务、或基于它出售独立的 AI 编程 / 办公助手,需要另签书面商业授权,并且仍须遵守上游 Qwen 许可。以上于 2026-11-13 核实。
优缺点
优点
- 开放权重,推理代码开源(Apache-2.0)。
- 同时提供命令行和桌面聊天应用。
- 本地服务兼容 OpenAI 和 Anthropic Messages 接口。
- 本地使用不产生按 token 计费的云端费用。
- 模型从手机级到 145B 都有。
缺点
- Edge0-145B 和 Edge0-120B 需要 Linux 或 Windows 加 NVIDIA 显卡和 CUDA 13;0.2.0 发布说明要求算力 7.5 及以上、至少 16 GiB 显存和 20 GiB 内存。
- README 平台表(2026-11-13 查看)没有列出 145B、120B 对 macOS、iOS、Android 的支持,尽管发布博客提到了 MacBook Pro 和 Apple M 系列芯片。
- 0.2.0 版 Edge0 Chat 安装包只有 Windows 版。
- 商业化提供模型服务需要向 Edge0 另行获得授权。
- 公布的跑分和速度数据来自 Edge0 内部评测,本文未实际运行模型。
替代工具
Google AI Edge Gallery
Google 出品的应用,可在手机、平板或 Mac 上运行较小的开放模型。
llmfit
下载前先检测你的内存、CPU 和显卡适合跑哪些本地大模型。
DeepSeek
通过云端聊天和 API 使用 DeepSeek 模型,而不是在本地跑权重。
常见问题
详情
平台
WindowsLinuxmacOSiOSAndroidAPI
功能特性
- Open-weight Edge0-145B and Edge0-120B latent mixture-of-experts models on Hugging Face in Q3_K and NVFP4 builds, derived from Qwen3.8-Flash-Next and trained natively at 4 bits
- edge0-infer engine with run, chat, bench, serve and info commands, an OpenAI-compatible local server, and POST /v1/messages (Anthropic Messages API) support for native models
- Edge0 Chat desktop app (release 0.2.0, Windows x64 and Arm64 packages) for chatting with local models; the blog says core capabilities work offline without an account or usage quota
- Streams expert weights across GPU memory, system memory and SSD so large sparse models fit consumer hardware; earlier Edge0-35B runs on macOS (Metal), iOS (Metal), Android (CPU), Linux and Windows
支持语言
en
已知限制
- Edge0-145B and Edge0-120B currently need Linux or Windows with an NVIDIA GPU and CUDA 13; the 0.2.0 release notes ask for compute capability 7.5 or newer, at least 16 GiB of GPU memory and 20 GiB of system memory. The GitHub README platform table (read 2026-11-13) lists no macOS, iOS or Android support for these two models, even though the launch blog mentions a MacBook Pro and Apple M-series chips; check the README before planning a Mac setup
- The 0.2.0 Edge0 Chat packages are Windows-only and model weights are not included; you download the 145B/120B checkpoints from Hugging Face separately
- The model weights use the Edge0 Community Model License 1.0 (12 November 2026): personal, research, internal business use and commercial use of outputs are allowed at no charge, but selling model access, running a paid inference/fine-tuning service, or selling an independent AI coding or office assistant built on the model needs a separate written commercial license, and Qwen upstream license terms still apply. The inference code is Apache-2.0
- Benchmark and speed figures (for example 29GB peak memory and 80+ tokens/s on a laptop) come from Edge0’s own internal evaluations; this listing did not run the models







