一句话生成录音棚级中文配音:OpenBMB VoxCPM2,30 种语言、声音设计、克隆,全部开源免费

一句话生成录音棚级中文配音:OpenBMB VoxCPM2,30 种语言、声音设计、克隆,全部开源免费

你还在为 AI 配音工具的收费和劣质发音头疼吗?清华 OpenBMB 团队发布的 VoxCPM2(GitHub: OpenBMB/VoxCPM)重新定义了开源 TTS(文字转语音)的上限——20 亿参数、支持 30 种语言、48kHz 录音棚级音质,而且完全免费商用。

VoxCPM2 模型架构:Diffusion Autoregressive 零 Tokenizer 端到端语音生成管线
VoxCPM2 模型架构:Diffusion Autoregressive 零 Tokenizer 端到端语音生成管线

VoxCPM2 为什么被称为”TTS 领域的杀手级开源项目”?

核心突破:零 Tokenizer 技术

传统 TTS 系统将音频先量化为离散 token 再解码,音质损失不可避免。VoxCPM2 采用 Diffusion Autoregressive(扩散自回归) 架构,直接在 AudioVAE V2 的连续隐空间中生成语音,绕过了离散化环节,输出达到真正的 48kHz 无损级别。

四大杀手锏功能

1. Voice Design(声音设计)
无需任何参考音频,仅凭自然语言描述就能创造全新声音。比如输入 (A young woman, gentle and sweet voice),模型就会凭空生成一个温柔少女音——性别、年龄、语调、情绪、语速全都可以控制。

2. Controllable Voice Cloning(可控克隆)
上传一段参考音频,即可克隆音色;同时还能叠加风格控制指令,调整语速、情感、语气,在保留原音色的基础上赋予新表达。

3. Ultimate Cloning(终极克隆)
提供参考音频及其精确文本转录,模型能从参考音频中无缝接续,完美复刻每一个声线细节——音色、节奏、情感、风格,还原度极高。

4. 30 语言原生支持
内置阿拉伯语、缅甸语、汉语(含四川话、粤语、吴语等方言)、丹麦语、荷兰语、英语、芬兰语、法语、德语、希腊语、希伯来语、印地语、印尼语、意大利语、日语、高棉语、韩语、老挝语、马来语、挪威语、波兰语、葡萄牙语、俄语、西班牙语、斯瓦希里语、瑞典语、他加禄语、泰语、土耳其语、越南语。


性能实测:对标商业级产品

在 Seed-TTS-eval 等国际基准测试中,VoxCPM2 取得了以下成绩:
– 英文 WER:1.84%(低于 Qwen3-TTS 的 1.23%,高于 FishAudio S2 的 0.99%)
– 中文 CER:0.97%(同级别最低之一)
– SIM 相似度:75.3%(英文版)、79.5%(中文版)

更关键的是,它的克隆相似度在多个语种上均超过 75%,在部分小语种(如芬兰语 89.0%、波兰语 88.4%)甚至碾压竞品。

📷 配图 2:VoxCPM2 多语言评测结果对比图表

极速推理:RTF 低至 0.13

标准 PyTorch 推理在 RTX 4090 上的 RTF(Real-Time Factor)约为 0.30,而借助 Nano-vLLM 加速后,RTF 可降至 0.13——意味着每秒生成 7.7 倍实时速度的语音,满足在线对话场景需求。

此外,还有以下生态支持:
– vLLM-Omni:官方生产级部署方案,OpenAI 兼容 API
– llama.cpp-omni:纯 C++ 端侧推理,支持 Apple Metal / CUDA / Vulkan,M4 Pro 上 RTF 约 1.76
– ComfyUI 节点:可在 ComfyUI 工作流中直接调用
– VoxaDub:本地视频配音工具,支持多说话人、时长同步


快速上手

pip install voxcpm
from voxcpm import VoxCPM
import soundfile as sf

model = VoxCPM.from_pretrained("openbmb/VoxCPM2", load_denoiser=False)

wav = model.generate(
    text="(一位温柔的女声,语速稍慢)你好,欢迎来到 VoxCPM2!",
    cfg_value=2.0,
    seed=42,
)
sf.write("demo.wav", wav, model.tts_model.sample_rate)

语音克隆仅需三行:

wav = model.generate(
    text="这是一段克隆语音。",
    reference_wav_path="speaker.wav",
)

为什么选择 VoxCPM2?

  • 完全免费商用:Apache-2.0 许可证,无商业限制
  • 零依赖 Tokenizer:端到端架构,音质上限更高
  • 上下文感知:自动根据文本内容推断韵律和情感
  • 多平台支持:Python / CLI / Web Demo / 端侧 GGUF / 生产部署全覆盖

结语

VoxCPM2 是开源语音合成领域的重要里程碑。它证明了不需要闭源 API,也能用一台消费级显卡做出媲美 ElevenLabs 级别的配音效果。无论是游戏配音、有声书制作、视频字幕,还是实时 AI 助手,VoxCPM2 都提供了开箱即用的解决方案。

项目地址:GitHub – OpenBMB/VoxCPM
论文:arXiv 2606.06928

Comments

No comments yet. Why don’t you start the discussion?

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注