最后更新：10/13/2026最后核验：2026-10-07
Vela 2.0 是什么
Vela 2.0 是 vLLM Semantic Router 项目推出的一组 Apache-2.0 开源路由模型，面向 LLM 应用中的语义路由、安全审核、PII 检测和 groundedness 评估。它可以在单次请求中处理多类判断任务，并返回带概率分数和 span 级字符偏移的结果。开发者可在请求时通过 choices、yes/no criteria、ordered rubrics 和 label sets 灵活定义任务。
核心功能
- 提供 0.3B 到 9B 参数规模的四款开源模型，覆盖 encoder、hybrid 与旗舰级语义路由场景
- 单次 SystemOne 兼容请求可同时处理领域路由、安全检测、PII 识别和幻觉相关评估
- span 级输出可用字符偏移定位 PII、未被上下文支持的声明和抽取式证据
- 支持在请求时通过 choices、yes/no criteria、ordered rubrics 和 label sets 配置任务
- Apache-2.0 许可证支持开放使用与二次适配，但仍需遵守具体许可条款
- 概率分数便于开发者排查、调优路由策略或分类行为
最适合
为 LLM 应用构建语义路由层的 AI 团队需要开源模型做安全检测、PII 检测和 groundedness 评估的开发者评估路由与分类工作流的研究团队需要 span 级证据定位和声明分析的 LLM 应用开发者正在试验 vLLM Semantic Router 兼容工作流的工程团队
定价
根据已提供信息，Vela 2.0 以 Apache-2.0 许可证免费开源发布。不过，用户在实际运行模型时仍需考虑算力、托管、推理、监控和运维等基础设施成本。
优缺点
优点
- Apache-2.0 许可的开源模型家族，便于使用和改造
- 可在一次请求中覆盖多种与路由相关的任务
- span 级字符偏移提升 PII、证据和未支持声明的可解释性
- 多种模型尺寸方便团队在轻量部署和更强能力之间取舍
- 任务定义灵活，可在请求时动态配置
缺点
- 部署并集成到 AI 系统中需要一定技术能力
- 即使模型免费，实际运行仍可能产生算力和运维成本
- 现有信息未提供针对具体工作负载的 benchmark 细节
- 用于生产级安全、合规或隐私流程前需要自行验证
- 采用前应评估文档完整度和生态成熟度
替代工具
Guardrails AI
提供 LLM 输出验证与 guardrail 工具，适合关注安全控制和结构化校验的团队。
Llama Guard
开源安全分类模型家族，可用于评估 LLM 应用中的内容安全风险。
NeMo Guardrails
提供开源框架，用于为对话式 AI 系统添加可编程 guardrails。
OpenAI Moderation API
提供托管式内容审核模型，适合偏好通过 API 接入安全检测的团队。
Presidio
Microsoft 开源工具，可用于检测和匿名化文本中的个人身份信息 PII。
常见问题
广告
详情
平台
LinuxAPI
功能特性
- Four open models from 0.3B to 9B covering encoder, hybrid, and flagship routing workloads
- One SystemOne-compatible request combines domain routing, safety, PII, and hallucination questions
- Span-level answers locate PII, unsupported claims, and extractive evidence with character offsets
- Tasks are defined at request time through choices, yes/no criteria, ordered rubrics, and label sets
支持语言
en
已知限制
- Models output structured decisions only and generate no free-form text
- The 9B flagship needs roughly 32 GB of GPU memory in FP32 for evaluation
- The 0.3B tokenizer ships under Gemma Terms of Use instead of Apache-2.0
- Loading requires transformers 5.17 or newer with trust_remote_code enabled
