目录

方法二：从源码安装（适用于开发者或想体验最新功能）

常见故障排除

1. vLLM 安装失败或运行时报 CUDA 相关错误

2. 模型下载失败

3. 内存不足（OOM）

系统要求

方法二：从源码安装（适用于开发者或想体验最新功能）

如果你想贡献代码或使用最新的、尚未发布到PyPI的功能。

bash

# 1. 克隆仓库
git clone https://github.com/yitingyiu/index-tts-vllm.git
cd index-tts-vllm

# 2. 创建并激活Conda环境（同上）
conda create -n index-tts-vllm-dev python=3.10 -y
conda activate index-tts-vllm-dev

# 3. 安装PyTorch（同上）
pip install torch ... # 根据你的CUDA版本选择

# 4. 使用pip以“可编辑”模式安装项目及其依赖
# 这会将你的代码链接到Python环境，你对源码的修改会立即生效。
pip install -e .

之后的验证步骤与方法一相同。

常见故障排除

1. vLLM 安装失败或运行时报 CUDA 相关错误

• 确保CUDA版本匹配：你的PyTorch、vLLM和系统CUDA驱动版本必须兼容。

  • 运行 nvidia-smi 查看你的驱动支持的最高CUDA版本。

  • 运行 conda list | grep cudatoolkit 或 python -c "import torch; print(torch.version.cuda)" 查看PyTorch使用的CUDA运行时版本。

  • 建议使用 CUDA 11.8 环境，这是最稳定的组合之一。

• 尝试安装特定版本的vLLM：

  bash

  # 指定一个已知稳定的版本
  pip install vllm==0.3.3

• 使用官方Docker镜像：如果宿主机环境问题太多，最简单的方法是使用NVIDIA官方提供的PyTorch镜像，它已经包含了兼容的CUDA和CUDNN。

  bash

  # 拉取镜像
  docker pull nvcr.io/nvidia/pytorch:23.10-py3
  # 运行容器
  docker run --gpus all -it --rm nvcr.io/nvidia/pytorch:23.10-py3
  # 在容器内再进行 pip install vllm index-tts 等操作

2. 模型下载失败

• 首次运行时会从Hugging Face Hub下载模型（yitingyiu/index-tts-vllm），可能需要较长时间。

• 如果网络连接HF不稳定，可以配置镜像或使用 huggingface-cli login 并设置 HF_ENDPOINT 环境变量。

3. 内存不足（OOM）

• TTS模型，尤其是高质量模型，会消耗大量显存。

• 尝试在初始化 LLM 时使用更小的 tensor_parallel_size（例如1），并确保没有其他程序占用显存。

  python

  llm = LLM(model="yitingyiu/index-tts-vllm", tensor_parallel_size=1)

系统要求

• 操作系统：Linux (Ubuntu 18.04+)， WSL2 on Windows。原生Windows支持可能不完善。

• Python：3.9， 3.10， 3.11。

• GPU：NVIDIA GPU (Volta, Turing, Ampere, Ada Lovelace 或更新架构)，至少8GB显存（推荐16GB以上以获得更好体验）。

• 驱动：NVIDIA Driver >= 525.60.11（建议使用最新驱动）。

按照以上步骤，你应该能够成功安装并运行 index-tts-vllm。如果遇到问题，请优先检查CUDA和PyTorch的版本兼容性，这是最常见的问题根源。