Xinference v2.12.0
模型自动启动能力上线，安全权限体系全面增强，新增 4 大模型支持
📅 发布日期：2026 年 7 月 6 日
📦 安装方式
pip 安装
pip install 'xinference==2.12.0'
Docker
拉取最新版镜像或使用 pip 更新
✅ 本次亮点
🚀
模型自动启动（autostart）
核心能力上线，支持模型在系统启动或恢复后自动拉起运行状态，显著减少人工干预。
🔐
安全与权限体系全面增强
remote-code execution 安全控制、API Key / 用户 / 权限体系升级，资源隔离更清晰。
🧠
新模型支持持续扩展
VibeThinker 1.5B/3B、Nex-N2 系列、Ornith-1.0-35B、Unlimited-OCR 全新上线。
🖥
Web UI 与交互能力升级
API Key / 用户管理页面上线，Running Model 支持 Try to API 快速测试。
🔍
Embedding / Rerank 能力增强
能力面板增强展示，模型能力管理更清晰。
📊
监控与可观测性增强
Grafana Dashboard 拆分为 6 个子面板，Prometheus 指标统一并新增 replica_index。
🆕 新模型支持
VibeThinker 1.5B / 3B
支持 Transformers 与 vLLM 两种推理引擎。
Nex-N2（mini / Pro / Pro-FP8）
Nex-N2 系列全新上线，覆盖轻量到高性能场景。
Ornith-1.0-35B
大参数量模型，扩展本地推理能力边界。
Unlimited-OCR
新增 OCR 模型支持，扩展文档识别与解析场景。
✨ 新特性
✓
模型自动启动（autostart）能力
支持模型在系统启动或恢复后自动拉起运行状态。
✓
Remote code execution 安全控制增强
加固模型远程代码执行的安全校验机制。
✓
API Key / User Management 页面
新增 API Key 管理与用户管理页面。
✓
Embedding / Rerank 面板增强
能力展示更清晰，模型能力管理体验提升。
✓
Running Model API 快速测试能力
Running Model 支持 Try to API，无需离开界面即可快速验证。
✓
Worker / Supervisor / Replica 指标统一
统一各角色监控指标口径，便于统一观测与告警。
📊 监控增强
✓
Grafana Dashboard 拆分为 6 个子视图
按维度拆分面板，问题定位更高效。
✓
Prometheus 指标增强
统一 worker / supervisor / replica 指标，新增 replica_index 等指标。
🛠 功能增强
- 日志 rotation 支持 daily + size
- 多进程安全日志写入机制
- 结构化日志能力增强
- Worker IP 多选过滤组件
- UI menu / 权限体系优化
- 模型加载与注册流程优化
🐞 Bug 修复
- 修复 embedding / rerank 模型依赖问题
- 修复 vLLM / llama.cpp / tool call 兼容问题
- 修复 GPU / worker 状态异常问题
- 修复 OAuth / 权限越权问题
- 修复 cache 初始化失败导致指标丢失问题
📚 文档更新
- 新增多语言文档支持
- 新增 security policy
- 更新国际化与文档结构
🏢 企业版更新
- 🔧 稳定性与运行可靠性持续优化