每日文摘

深挖 · breeze-tts:14.4GB 单卡可跑、商用受限的「无参考 voice design」少数派

题图

breeze-tts-2 是 breezeblue-ai 在 2026-08-25 发布的开源 PyTorch TTS,代码 Apache-2.0、权重走 Research Non-Commercial 路径。它在主流开源 TTS 里是个异类:别的项目都堆「voice clone 相似度」和「多语种」,它的差异化卖点是 voice design——不靠参考音频,纯用自然语言描述就能生成一个声音。这次深挖不打算给你看又一份「README 翻译」,而是想正面回答用户原始的四个问题:它到底能做什么、跟 VoxCPM2 / CosyVoice 3 / Fish S2 / Qwen3-TTS 比处在什么位置、什么场景适合用、资源占用到底是多少。

是什么

breezeblue-ai/breeze-tts 自称「Official PyTorch inference for Breeze TTS 2」,2026-08-25 发布 v2 权重 + 推理代码,2026-08-07 还发布过三项 TTS benchmark(voice design / voice direction / latency)。仓库体量很轻——13 commit、424 star、4 issue、1 PR,issue creation 还被设置成受限。

License 是这次深挖最重要的第一手事实:

这是典型的「代码开源 + 权重闭源商业化」套娃模式,跟 OpenAI / ElevenLabs 闭源路线类似,但开放度介于 VoxCPM2(Apache-2.0 全栈可商用)和 ElevenLabs(完全闭源)之间。

v1(breeze-tts)到 v2 的具体差异 README 没给——参数量、训练数据量、训练小时数、WER / CER / SIM / UTMOS 全部未公开;没有 arXiv 论文;HF 主页 401/404。

核心机制(技术)

breeze-tts-2 的能力谱分四档:

能力触发条件备注
Voice Clone参考音频 + 精确文本主流克隆路径
Voice Design无参考音频 + 自然语言描述差异化卖点
Voice Direction参考音频 + 自然语言指令(tone / emotion / pace / delivery)风格微调
Vocal Events文本内联标签——英文 (laugh)/(cough)/(coughs throat)/(sigh)、中文 [笑]/[咳嗽]/[清嗓子]/[叹气]非语音事件

仅支持 EN + ZH 双语。README 没提 voice conversion、long-form synthesis、跨语种克隆(除 EN/ZH 基础支持)、自定义情绪或口音。

架构分四个组件:Text encoder → Backbone(prefill + decode)→ Depth decoder → Codec。关键事实:它的音频 tokenizer 直接基于 Qwen3-TTS(Alibaba Qwen Team)——结构上 codec 与 Qwen3-TTS 同源,但 text encoder / backbone / depth decoder 是 breezeblue-ai 自有。输出 24 kHz mono signed 16-bit little-endian PCM。

完整架构细节(是不是 LM + diffusion、是否 Flow matching、decoder 阶段数)README 没有——这是和 VoxCPM2 / CosyVoice 3 那种「论文级技术报告」开源 TTS 最大的透明度差距。

怎么跑起来(环境)

部署路径有三条,全部是原生 PyTorch:

# 1. CLI
git clone https://github.com/breezeblue-ai/breeze-tts.git
cd breeze-tts
python -m pip install -r requirements.txt
python infer.py ...

# 2. Streaming API(默认端口 7860,路径 /v1/audio/speech,multipart form)
python -m breeze_infer.api ../breeze-tts-2 --host 0.0.0.0 --port 7860

# 3. Docker(默认 H100/Hopper sm90;A100 需加 FLASH_ATTN_CUDA_ARCHS=80)
bash docker/build.sh

官方只支持 Linux + CUDA-capable NVIDIA GPU——无 vLLM、TensorRT-LLM、SGLang 官方路径,无 Apple Silicon / CPU 支持。Python ≥ 3.10。

资源占用

路径显存速度来源
官方 PyTorch eager≈ 7.7 GiB单并发README
官方 PyTorch –fast-all≈ 14.4 GiBH100 RTF 0.32(≈ 3.1× 实时)README
第三方 audio.cpp(llama.cpp 派生)6 GiB4× 实时,无 Pythonissue #3 by 0xShug0
ComfyUI 集成——issue #1 by Saganaki22

关键对比:audio.cpp 6GB 比 PyTorch –fast-all 14.4GB 还要省——比 206 已在跑的 VoxCPM2 vLLM-Omni 13GB 还要省一半。这意味着如果你愿意走 llama.cpp 家族路线,单张 3060/4060 都能跑。

API 形态是 POST /v1/audio/speech,字段 cfg_scale / ref_audio / ref_text / text / instruction / seed——路径名与 OpenAI 同名,但 multipart form 协议不兼容,不能直接换 OpenAI 客户端。流式仅 PCM 一种形式,没有 SSE / WebSocket 分层。默认单并发;--fast-all 启用 fast path 但没暴露 max_concurrency 调参——并发数字官方完全没给,社区有 issue #15 在问,仍 open。

与你机器的适配

数据说话(评测)

这是这次深挖最关键的负面发现。

官方数字

风险点 1:独立抓取 Artificial Analysis TTS Leaderboard,前列是 Sonic 3.6 / Polly / Kokoro / Qwen-Audio-3.0-TTS-Plus / Inworld Realtime TTS-2——没有单独列 breezeblue。单源声明 + 不可印证,这个「#1」目前在客观证据上站不住。

风险点 2:breeze-tts-2 自己的 WER / CER / SIM / UTMOS 完全未公开。soniqo 那个 5 语种 FLEURS 独立复现榜是开源 TTS 圈最权威的第三方测评,breeze-tts-2 不在榜上——上榜的只有 VoxCPM2 / Fish S2 Pro / Qwen3-TTS Base / F5-TTS / IndexTTS2 / Higgs TTS 3 / Chatterbox / OmniVoice。换句话说,breeze-tts-2 没有任何第三方独立复现的客观质量数字。

同期对照(全部来自独立第三方)

模型en WERzh CERen Cosinezh Cosine3090 RTF 中位显存
VoxCPM21.8%4.9%0.5470.6951.111.5 GB
Fish S2 Pro3.9%6.2%0.4890.6342.78—
Qwen3-TTS Base 1.7B2.4%5.7%0.4910.7011.701.8 GB
F5-TTS5.6%13.9%0.6980.7800.570.7 GB
IndexTTS25.1%—0.738—1.02.9 GB
Higgs TTS 34.0%4.3%0.4720.5740.788.0 GB
breeze-tts-2————H100 0.32(无 3090 数据)7.7 / 14.4 GiB

数据来源:soniqo: Voice Cloning Models, Measured Across Five Languages

CosyVoice 3 的 自家测评表 给出 test-zh CER 0.81%(RL 版)/ 1.21%(base 版)——与人类基线 1.26% 持平甚至更低。Fish S2 Pro 自报 Seed-TTS WER zh 0.54% / en 0.99%——与 soniqo 复现存在矛盾(soniqo 测出 Fish S2 en WER 3.9%),差异来自参考集(Seed-TTS eval vs FLEURS)。

未解问题清单:

值不值得跟(结合兴趣方向的判断)

直接给结论,按场景分级:

场景是否推荐 breeze-tts-2替代
206 已跑 VoxCPM2 + OpenMAIC❌ 无理由切换——vLLM-Omni 体系不共享、权重商用受限—
「无参考 + 自然语言描述生成声音」(voice design)✅ 唯一开源选项无直接对位(Fish S2 acting cues 需参考、Qwen3-TTS 走 ICL、VoxCPM2 voice direction 需参考)
内部原型 / 学习 PyTorch 推理代码✅ 可读 Apache-2.0 代码—
任何商用 / 公开场景❌ 权重非商用 + 商用必须订阅 breezeblue.aiVoxCPM2 / CosyVoice 3 / Qwen3-TTS 闭源 API
3090 极低资源「备用 TTS 备件」⚠️ audio.cpp 6GB 路径可玩VoxCPM2 13GB
Mac 自托管❌ 无 MPS / CPU 路径—
多语种(>2 语)❌ 仅 EN + ZHFish S2 Pro(80 语)/ CosyVoice 3(9 语 + 18 中文方言)
大并发服务❌ 默认单并发、无 vLLM 路径VoxCPM2 vLLM-Omni / CosyVoice 3 vLLM
强实时对话 + 流式⚠️ 3090 数据空白VoxCPM2(206 已在跑,3090 RTF 0.23 已有实测)

最终建议:

  1. 如果你是 breezeblue-ai 的目标用户(即认可 voice design 差异化、愿意为商用订阅付费、能接受 Python 原生部署),那 breeze-tts-2 是目前主流开源 TTS 中唯一无参考 voice design 选项——值得跟。
  2. 如果你的场景是 voice clone 优先(你只是想「用我的声音说一段话」),breeze-tts-2 没有任何客观质量优势,反而要绕开 vLLM 生态和商用限制——直接用 VoxCPM2 / CosyVoice 3。
  3. 如果你想给 206 加个 TTS 备件,audio.cpp 6GB 路径在 3090 上比 VoxCPM2 13GB 还省,是个有意思的备份思路——但要先在 3090 实测一遍(3090 数据完全空白)。

参考阅读