跳到主要内容

快速开始

常见问题文档

用户调查问卷(英文)

用户调查问卷(中文)

本指南将帮助你快速部署并运行 Open-LLM-VTuber 项目。

本指南部署的配置为 Ollama + sherpa-onnx-asr (SenseVoiceSmall) + edge_tts。如需深入定制，请参考用户指南的相关章节。

信息

如果用 OpenAI Compatible 代替 Ollama，用 groq_whisper_asr 代替 sherpa-onnx-asr (SenseVoiceSmall)，那么只需配置 API Key 即可使用，无需下载模型文件，也可以跳过对本地 GPU 的配置。

注意

本项目只推荐使用 Chrome 浏览器。已知 Edge、Safari 等浏览器都存在不同的问题，比如模型表情无法使用。

关于代理

如果你位于中国大陆，建议你开启代理后再部署和使用本项目，确保能顺利下载所有资源。

如果你遇到开启代理后本地服务 (ollama、deeplx、gptsovits) 无法访问，但关闭代理后就能访问的问题。请你确保你的代理绕过本地地址 (localhost)，或者在所有资源下载完毕后关闭代理再运行本项目。更多信息参考 设置代理绕过 。

Groq Whisper API、OpenAI API 等国外大模型/推理平台 API 一般无法使用香港地区的代理。

关于桌面应用

如果你更喜欢 Electron 应用 (窗口模式 + 桌宠模式)，可以从 Open-LLM-VTuber-Web Releases 下载对应平台 Electron 客户端，可以在后端服务运行的前提下直接使用。但你有可能会遇到因为没有签名验证而导致的安全警告，具体情况和解决方案请查看 模式介绍

有关前端的更多信息，请参考 前端指南

设备要求​

最低要求​

本项目的各个组件 (ASR, LLM, TTS, 翻译) 都可以选用 API，你可以把想要在本地运行的组件放在本地，本地跑不动的用 API。

因此，本项目的最低设备要求:

  • 电脑
  • 树莓派也行

本地运行的推荐设备要求​

  • M 系列芯片的 mac
  • Nvidia GPU
  • 比较新的 AMD GPU (支持 ROCm 的话会很棒)
  • 别的 GPU
  • 或是一个强大到，可以代替 GPU 的 CPU。

本项目支持多种不同的语音识别(ASR)，大语言模型(LLM)，以及语音合成(TTS) 的后端。请根据你的硬件条件量力而行。如果发现运行速度太慢，请选择小一些的模型或者使用 API。

对于本快速开始文档选择的组件，你需要一个速度正常的 CPU (ASR)，一个 Ollama 支持的 GPU (LLM)，以及网路链接 (TTS)。

环境准备​

安装 Git​

# 在命令行中运行
winget install Git.Git
注意

关于 winget

如果你的 Windows 版本较旧 (Windows 11 (21H2 之前))，你的电脑可能没有内置 winget 包管理器。你可以去微软应用商店中搜索并下载 winget。

如果使用 Windows 10 1809 (build 17763) 之前的版本，你的电脑可能不支持 winget。请前往 Git 官网下载 git 安装包进行安装。之后的 ffmpeg 也请自行上网搜索 ffmpeg 的安装指南。

安装 FFmpeg​

警告

FFmpeg 是必需的依赖项。没有 FFmpeg 会导致找不到音频文件的错误。

# 在命令行中运行
winget install ffmpeg

检查 ffmpeg 已经成功安装​

在命令行中运行

ffmpeg -version

如果出现类似

ffmpeg version 7.1 Copyright (c) 2000-2024 the FFmpeg developers
...(后面一大串文字)

的文字，说明你安装成功了。

NVIDIA GPU 支持​

如果你有 NVIDIA 显卡并希望使用 GPU 运行本地模型，你需要:

  1. 安装 NVIDIA 显卡驱动
  2. 安装 CUDA Toolkit (推荐 11.8 或更高版本)
  3. 安装对应版本的 cuDNN

Windows 安装步骤:​

备注

以下路径仅供参考，需要根据版本和实际安装路径进行修改。

  1. 检查显卡驱动版本

    • 右键点击桌面，选择"NVIDIA 控制面板"
    • 帮助 -> 系统信息 -> 组件，查看驱动程序版本
    • 或访问 NVIDIA 驱动下载页面 下载最新驱动

  2. 安装 CUDA Toolkit

    • 访问 CUDA 版本对应关系 查看驱动版本支持的 CUDA 版本
    • 访问 CUDA Toolkit 下载页面 下载对应版本
    • 安装完成后将以下路径添加到系统环境变量 PATH 中: 
      C:\NVIDIA GPU Computing Toolkit\CUDA\v<版本号>\bin
      C:\NVIDIA GPU Computing Toolkit\CUDA\v<版本号>\lib\x64

  3. 安装 cuDNN

    • 访问 cuDNN 下载页面（需要注册 NVIDIA 账号）
    • 下载与 CUDA 版本匹配的 cuDNN
    • 解压后将文件复制到 CUDA 安装目录:
      • 将 cuda/bin 中的文件复制到 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v<版本号>\bin
      • 将 cuda/include 中的文件复制到 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v<版本号>\include
      • 将 cuda/lib/x64 中的文件复制到 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v<版本号>\lib\x64

验证安装:​

  1. 检查驱动安装:
nvidia-smi
  1. 检查 CUDA 安装:
nvcc --version

Python 环境管理​

从 v1.0.0 版本开始，我们推荐使用 uv 作为依赖管理工具。

备注

如果你更希望使用 conda 或 venv，也可以使用这些工具。项目完全兼容标准的 pip 安装方式。

# 方法 1: PowerShell
powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"

# 方法 2: winget
winget install --id=astral-sh.uv -e

# 重要：对于 winget，安装完成后请重启命令行 / IDE
注意

对于 winget, curl 或 weget，安装完 uv 后需要重启命令行 / IDE 或重新加载配置文件

更多 uv 安装方法参考：Installing uv

部署指南​

1. 获取项目代码​

我们需要下载项目代码。有两种方法获取项目代码。

注意

请把项目放在一个合适的位置，路径中不要包含中文。

举个例子，D：\新建文件夹\Open-LLM=VTuber 这样的路径名可能会导致错误，请确保路径中都是英文。

从项目的 Release 页面，下载长得像 Open-LLM-VTuber-v1.x.x.zip 的 zip 文件。

注意

注意，是 Release 页面，不是项目主页上面那个 Code 按钮的 "Download ZIP" 选项。请不要用 "Download ZIP" 按钮下载项目代码。

如果你想要使用桌宠模式或是桌面版本，你可以顺手再下载以 open-llm-vtuber-electron 开头的文件。windows 用户下载 exe，macOS 用户下载 dmg文件。这个是桌面版本的客户端。之后等后端配置完成并启动之后，这个electron 版前端可以启动桌宠模式。

2. 安装项目依赖​

信息

⚠️ 如果你不在中国大陆境内，没有必要使用镜像源。

内地用户可以配置 Python 与 pip 的镜像源，提高下载速度。此处我们配置阿里镜像。

Details

请在项目目录下的 pyproject.toml 文件底部添加下面内容。

[[tool.uv.index]]
url = "https://mirrors.aliyun.com/pypi/simple"
default = true

一些其他镜像源 (修改上面的 url 部分)

有些镜像源有时候可能会不稳定，如果出现问题，可以换一个镜像源试试。 使用镜像源的时候不要打开代理。

确认 uv 已正确安装:

uv --version

创建环境并安装依赖:

# 确保你在项目根目录下运行这个命令
uv sync
# 这个命令将创建一个 `.venv` 虚拟环境，
备注

内地用户如果在此处出错，可以尝试开启代理后重新运行此命令。

接着，我们运行一下主程序来生成预设的配置文件。

uv run run_server.py

然后按下 Ctrl + C 退出程序。

信息

v1.1.0 版本开始，conf.yaml 文件可能不会自动出现在项目目录下。请运行一次项目主程序 uv run run_server.py 生成配置文件。

3. 配置 LLM​

我们以 Ollama 为例进行配置。其他选项请参考LLM 配置指南。

其他选项

如果你不想使用 Ollama / 在 Ollama 的配置上遇到了难以解决的问题，本项目也支持：

  • OpenAI 兼容 API
  • OpenAI 官方 API
  • Claude
  • Gemini
  • Mistral
  • 智谱
  • DeepSeek
  • LM Studio（类似 Ollama，使用更简单）
  • vLLM（性能更好，配置较复杂）
  • llama.cpp（直接运行 .gguf 格式模型）
  • 以及更多 (大部分的 LLM 推理后端和API都支持 OpenAI 格式，可以直接接入本项目)

更多信息请参考LLM 配置指南。

安装 Ollama​

  1. 从 Ollama 官网 下载并安装
  2. 验证安装:
ollama --version
  1. 下载并运行模型（以 qwen2.5:latest 为例）：
ollama run qwen2.5:latest
# 运行成功后，你就可以直接跟 qwen2.5:latest 对话了
# 可以先退出聊天界面 (Ctrl/Command + D)，但一定不要关闭命令行
  1. 查看已安装的模型：
ollama list
# NAME                ID              SIZE      MODIFIED
# qwen2.5:latest      845dbda0ea48    4.7 GB    2 minutes ago
提示

寻找模型名时，请使用 ollama list 命令，查看 ollama 中已下载的模型，并将模型名称直接复制粘贴到 model 选项下，避免模型名打错，全形冒号，空格之类的问题。

警告

选择模型时，请考虑你的显存容量与GPU算力。如果模型文件大小大于显存容量，模型会被迫使用 CPU 运算，速度极慢。另外，模型参数量越小，对话延迟越小。如果你希望降低对话延迟，请选择一个参数量较低的模型。

修改配置文件​

提示

如果你的项目目录下没有 conf.yaml 文件，请运行一次项目主程序 uv run run_server.py，生成配置文件，然后退出。

编辑 conf.yaml：

  1. 将 basic_memory_agent 下的 llm_provider 设置为 ollama_llm
  2. 调整 llm_configs 选项下的 ollama_llm 下的设置:
    • base_url 本地运行保持默认即可，无需修改。
    • 设置 model 为你使用的模型，比如本指南使用的 qwen2.5:latest。
    ollama_llm:
      base_url: http://localhost:11434  # 本地运行保持默认
      model: qwen2.5:latest            # ollama list 得到的模型名称
      temperature: 0.7                 # 控制回答随机性，越高越随机 (0~1)

关于配置文件的详细说明，可以参考 用户指南/配置文件。

4. 配置其他模块​

本项目 conf.yaml 默认配置中使用了 sherpa-onnx-asr (SenseVoiceSmall) 和 edgeTTS，并默认关闭翻译功能，你可以不用进行修改。

或者你可以参考 ASR 配置指南、TTS 配置指南 和 Translator 配置指南 进行修改。

5. 启动项目​

运行后端服务:

uv run run_server.py
# 第一次运行可能会下载一些模型，导致等待时间较久。

运行成功后，访问 http://localhost:12393 打开 Web 界面。

桌面应用程序

如果你更倾向于使用 Electron 应用（窗口模式 + 桌宠模式），可以从 Open-LLM-VTuber-Web Releases 下载对应平台的 Electron 客户端。该客户端可在后端服务运行时直接使用，你可能会遇到安全警告（由于未进行代码签名）——具体说明和解决方案请查阅模式介绍。

有关前端的更多信息，请参考前端指南

下一步​

如果你的项目目录下没有 conf.yaml 文件​

v1.1.0 版本开始，conf.yaml 文件可能不会自动出现在项目目录下。请运行一次项目主程序 uv run run_server.py 生成配置文件。

如果遇到 Error calling the chat endpoint... 错误，请检查：​

  • http://localhost:11434/ 是否能正常访问，如果不能，可能是因为 ollama run 没有运行成功，或者运行成功后命令行被关闭了。

  • 报错中提示Model not found, try pulling it...，请使用 ollama list 查看已安装的模型名称，确保配置文件中的模型名称与列表中的完全一致。

  • 如果你的代理软件没有绕过本地地址，会导致 Ollama 无法连接。尝试临时关闭代理，或参考前文设置代理绕过本地地址。

关于这个问题，我们在 常见问题 -> #遇到-error-calling-the-chat-endpoint-错误怎么办 中有详细解释。