清华开源 VoxCPM2 深度拆解:免费商用、凭空捏声音,TTS 天花板又翻了一截

272 阅读7分钟

上周做了条 AI 短剧,找配音平台询价,一条 300 字的台词,报价 1200。跑了三家,最少的也要 680。后来朋友说你去试试 VoxCPM2,清华新开源的,免费商用。我在线 demo 点了几下,生成了一段 16 秒的音频。说实话,听完之后沉默了大概十秒钟——不是因为效果差,而是因为效果太好了。


先回答一个问题:为什么 TTS 突然又火了?

2023 年 GPT-SoVITS 把声音克隆带到消费级,2024 年 CosyVoice 2 把情感控制提了一档,2025 年初 Fish Speech 2.5 开始做 streaming 实时对话。

但所有开源 TTS 都卡在一个共同的瓶颈上:音质上限。

不是合成得"像那么回事",而是合成得"让人听不出是机器"——这一步始终差一口气。

VoxCPM2 的出现,相当于是把天花板顶开了。

一句话解释它的价值:过去你克隆声音需要一段录音做参考。现在你只需要写一句话描述——"年轻女性,声音温柔甜美,略带书卷气"——模型就凭空把这个声音捏出来了。


它到底做了什么不一样的事?

先说最反直觉的一点:VoxCPM2 没有 Tokenizer。

所有主流 TTS 走的路是:声音信号 → 切碎成离散 Token → 模型生成 Token → 还原声音。中间那层离散编码,就像把照片压缩成 JPEG 再解压——信息必定有损耗。低频细节糊了,高频毛刺出来了,这就是"电子感"的来源。

VoxCPM2 不走这条路。它用扩散自回归架构直接在连续空间里生成音频。相当于从"画像素图"变成了"直接拿颜料画油画"——保留了完整的声学细节。

另一个关键:200 万小时训练数据。

对比一下:

CosyVoice 2 在 30 万小时中文数据上训练。GPT-SoVITS 没有公开训练规模,目测在 10 万小时级别。VoxCPM2 是 200 万小时、30 种语言——量级差了 6 到 20 倍。

数据量和架构差异叠加,在听觉上产生了一个质的飞跃:干净。


三种模式:从"模仿"到"创造"

第一层:音色设计

这是最让我兴奋的能力。不需要任何参考音频。你写一句话——"中年男性,低沉稳重,带点沙哑"——模型就凭空捏出这个声音来。

这在过去开源的 TTS 产品里是做不到的。CosyVoice 2 能做一定程度的表情控制,但底色必须基于一个已有的声音。GPT-SoVITS 依赖参考音频做 clone,没有参考就是瞎的。

场景价值在哪?

你做了一个播客,但不想用自己的声音 → 捏一个虚拟主播。你有声书项目需要旁白 + 多个角色 → 捏一整套声库,不需要任何一个真人授权。你做 AI 伴侣或客服 → 为每个品牌设计一个固定的声音 IP。

这是一个从"复制"到"创造"的范式转换。

第二层:可控克隆

给一段几秒的参考音频,模型克隆这个音色——然后叠加风格指令。

你在参考音频里录了一句"你好",模型学会了你的声音。然后你说"用这个声音,语速加快 30%,带点兴奋感,念一段广告词"——它做到了,音色还是你的,但情绪和节奏被独立控制。

CosyVoice 2 能做到类似的"细粒度控制",但控制的是全局风格。GPT-SoVITS 几乎做不了独立于音色的风格控制。

第三层:极致克隆

参考音频 + 文本转录 → 模型理解这段声音的所有细节(音色、节奏、情感、气息),然后无缝续写。

相当于给了一段 10 秒的语音,模型"听懂了"这个人的发声习惯,然后自动接着往下说——你完全听不出接缝在哪。

这个能力对于有声内容生产是核弹级的——一段参考音频就能承包整本有声书。

AI 声音合成,过去叫"克隆"。VoxCPM2 第一次让这件事变成了"捏人"。

VoxCPM2 在线 demo 界面 —— 音色设计、可控克隆、极致克隆三种模式


技术细节:不能跳过的硬核部分

48kHz 原生输出

参考音频只管输入 16kHz,模型直接输出 48kHz。内建超分,不需要额外工具。这意味着从 VoxCPM2 出来的音频可以直接用在广播级场合。

而 CosyVoice 2 和 GPT-SoVITS 默认输出都是 24kHz 或 16kHz,需要外挂超分器。

维度VoxCPM2CosyVoice 2GPT-SoVITSFish Speech 2.5
模型大小2B~1.2B~0.7B~0.5B
训练数据200万小时30万小时未公开100万小时
输出采样率48kHz24kHz32kHz24kHz
语言支持30种+9种方言中+英中/英/日/韩中/英/日/德/法
音色设计能用文字创造不行不行不行
风格控制与音色解耦有限控制不行有限
实时推理0.13 (vLLM)~0.2~0.15~0.08
开源协议Apache 2.0Apache 2.0MITApache 2.0

实时性

RTX 4090 上 RTF(实时率)0.3,用 vLLM-Omni 加速可以压到 0.13——生成 1 秒音频只要 0.13 秒。这意味着可以做到实时流式输出,在 AI 语音助手场景完全够用。

但硬件门槛确实存在。2B 参数模型需要 CUDA GPU。我用 M1 MacBook Air 16GB 本地跑不动——但好在有在线 demo 可以直接用,不需要部署。


这波对内容创作者意味着什么?

1. 播客和有声书

以前做有声内容的大瓶颈是人——找个好的配音演员很贵,找个稳定的长期合作更难。VoxCPM2 的"音色设计"能力让这个环节变成纯技术操作:捏一个声音 IP、确定风格、批量生成。虽然目前长文本韵律还有瑕疵,但质量已经跨过了"能用"的及格线。

2. AI 短剧和虚拟人

抖音上的 AI 短剧现在很火,但大部分用单一 TTS 声音播全剧,听感很差。VoxCPM2 在一个模型里就能生成多个角色音色——男主、女主、旁白各捏一个,成本为零。

一条短剧的配音成本,从 1200 降到 0。这才是真正的"降本增效"。

3. AI 语音助手

这是最卷的赛道。现在的助手要么用付费云 API(费用不低),要么用开源但音质一般。VoxCPM2 提供了一种可能:本地部署、免费商用、音质在线。


坦诚地聊聊局限

写评测不能只吹好的一面。

第一,长文本韵律不稳定。 我试了 500 字以上的段落,模型在中段偶尔会"走神"——语调突然变平,像是在读词而非说话。这是所有扩散架构 TTS 的通病,VoxCPM2 做得已经算好的,但距离人类配音还有距离。

第二,复杂情感表达不够细腻。 "略带忧伤的温柔女声"它能做到,但"压抑着愤怒又带一丝嘲讽"这种叠加情绪就翻车了——听起来像生气,但没有层次。

第三,硬件门槛。 2B 模型在 CPU 上基本跑不了。Raspberry Pi 级别的边缘设备用不了,AI 音箱想集成它还得等轻量版。

第四,中文方言支持还是实验性质。 自称支持 9 种方言,但我试了四川话和粤语——能说,但口音不纯,像一个北方人试图学四川话的感觉。


写在最后

VoxCPM2 让我想起 2023 年初第一次用 GPT-SoVITS 时的感觉——技术到了一个拐点,后面就是应用层的爆发。

但这次不一样的地方有三点:它跳出了"模仿"的框架,第一次实现了"创造";48kHz 原生输出让音频质量迈过了广播级门槛;Apache 2.0 协议加上免费商用,消除了法律顾虑。

如果你在做内容创作、有声书、AI 短剧或者语音助手,现在应该去它的在线 demo 上玩一玩。不需要装环境,浏览器打开,输入文字,听听出来的声音。

你会觉得这技术已经到了一种"不太对劲"的程度。

项目地址:github.com/OpenBMB/VoxCPM 在线体验:voxcpm.modelbest.cn HuggingFace Demo:huggingface.co/spaces/OpenBMB/VoxCPM-Demo 论文地址:arxiv.org/abs/2505.20518