本周,Fish Audio 发布了 Fish Audio Drama 3。Drama 3 是 Fish Audio 推出的一款文本转语音(TTS)模型,它接受用普通语言书写的表演指令。它是一个 35B 的混合专家(MoE)模型,每个 token 激活约 3B 参数。权重已在 Hugging Face 上开放,模型也已上线 Fish Audio API。对开发者而言,它是一个可自托管的选项,适用于剧本对白、有声书和配音。

要点
- 规模: 总计 35B 参数,每个 token 激活约 3B(256 个专家中的 8 个,外加 1 个共享专家)。上下文长度:未披露。
- 运行环境: 1 块至少 48 GB 显存的 NVIDIA GPU,需使用 FP8。不支持 CPU、Apple MPS 或 AMD ROCm。官方基准测试使用 1 块 H200。
- 性能: 在 Artificial Analysis 上是 Fish Audio 得分最高的模型,但在质量 Elo 上仍落后于若干闭源 API。
- 最佳项: 在 Artificial Analysis 发音鲁棒性测试中,品牌、地名和技术术语达到 95.9%。
- 最弱项: 精确序列(代码、路径、邮箱)仅 86.3%,这是它发音表现最弱的类别。
- 结论:
- 优势:可指令控制、支持多说话人的语音,且权重开放。
- 劣势:48 GB GPU 的硬件门槛,以及一份设有营收上限的许可证。
Fish Audio Drama 3 是什么?
Drama 3 把一份剧本连同括号内的表演指令,转换成有表演力的语音。编剧可以在某句台词前加上 [勉强撑住情绪] 这样的提示。按 Drama 3 文档说明,像 <whisper> 这样的配对标签只改变其包裹的词语。指令可以用任意语言书写,与实际说出的台词相互独立。
该模型支持 83 种语言。说话人标签 <|speaker:0|> 至 <|speaker:15|> 允许在单次请求中处理最多 16 个角色。API 每个说话人接受 1 个 voice ID,因此一整场戏只需一次调用即可渲染完成。
Drama 3 的架构是怎样的?
据发布公告,骨干网络起始于 Qwen3.5-35B-A3B 语言模型。它有 40 层,按每 1 层门控全注意力层配 3 层 Gated DeltaNet 层的方式分组。每 4 层中只有 1 层保留 KV cache;DeltaNet 层则把历史存储在一个固定大小的状态里。
一个新的 Codebook-MTP 解码器取代了 S2 中逐帧的 Fast AR 解码器。它有 4 个共享层馈入 9 个层,每层对应一个声学码本。只有码本 0 和 1 会反馈回骨干网络;而 S2 会把全部 10 个都反馈回去。
音频 tokenizer 与 S2 相同。它基于 Descript Audio Codec 构建,输出 44.1 kHz 音频,运行速率约为每秒 21.5 帧。
训练流程包含 3 个预训练阶段,之后是指令微调,再之后是强化学习。RL 使用不带 KL 惩罚的 GRPO,以及一个单独学习得到的、基于人类偏好的奖励模型。
Drama 3 在基准测试中的表现如何?
Fish Audio 称 Drama 3 在 Artificial Analysis 发音鲁棒性测试中总体得分 93.2%,排名第一。其前代 S2.1 Pro 得分88.1%。该测试由人类听者对 4 类英语难词进行评判:
- 品牌、地名与技术术语:95.9%(S2.1 Pro:87.3%)
- 依赖上下文的读法:95.3%(86.1%)
- 数字、日期、单位等简写:93.6%(92.7%)
- 代码、路径、邮箱等精确序列:86.3%(79.4%)
这项基准测试考察的是发音,而非情感表达。Fish Audio 仅定性描述了情感表现的质量。在 Artificial Analysis 质量排行榜上,”Drama 3 Preview”的 Elo 为 1242,高于 S2.1 Pro 的 1190,但落后于 Eleven v4 Turbo 的 1328。
Drama 3 需要什么硬件?
Fish Speech 安装指南要求至少 48 GB 的 NVIDIA GPU 显存,并使用 FP8。不支持 CPU、Apple MPS 和 AMD ROCm。MoE 专家以 FP8 提供,其余权重为 bf16。
模型卡报告了 1 块 H200 上的流式结果。单路流时,首段音频的中位延迟为 88.9 毫秒,实时因子为 0.131;16 路流时,吞吐达到每秒 927.6 帧。推理通过 SGLang-Omni 运行,其融合内核仅在 Hopper 架构 GPU 上做过验证。
如何访问 Drama 3,费用是多少?
在托管 API 中,把 POST /v1/tts 请求的 model 头设为 drama-3。文档警告,缺失或拼写错误的请求头会静默回退到 s2.1-pro。标价为每 100 万字符 50 美元。据发布公告,10 美元的发布优惠价持续至 2026 年 11 月 12 日。
权重采用 Fish Audio 社区许可证 v1.0。研究用途和非商业用途免费。商业用途在年营收低于 50 万美元时免费。若将 Drama 3 作为第三方 API 进行托管,需要单独获得许可。产品必须标注”Built with Fish Audio”。禁止在未经同意的情况下克隆真实人声。
Drama 3 与最接近的竞品对比
| 特性 | Fish Audio Drama 3 | Fish Audio S2 Pro | ElevenLabs Eleven v4 Turbo | Qwen-Audio-3.0-TTS-Plus |
|---|---|---|---|---|
| 总规模 | 35B(MoE) | 5B(4B Slow AR + 400M Fast AR) | 未披露 | 未披露 |
| 激活参数 | 约 3B | 非 MoE | 未披露 | 未披露 |
| 权重 | 开放,社区许可证 v1.0 | 开放,研究许可证 | 仅 API 与应用 | API(Model Studio) |
| 语言 | 83 种 | 80+ | 90+ | 列出 8 种,另有方言 |
| 自托管硬件 | 48 GB+ NVIDIA,FP8 | 24 GB+ NVIDIA,或 CPU | 仅托管 | 仅托管 |
| 延迟 | 88.9 ms TTFA p50,H200 | 约 100 ms TTFA,H200 | 约 150 ms 首语音中位时间 | 未披露 |
| AA 质量 Elo(来源) | 1242(Preview) | 1116 | 1328 | 1266 |
| API 价格(每 100 万字符) | 标价 50 美元,至 11 月 12 日为 10 美元 | 15 美元 | 40 美元 | 20 美元,新加坡 |
核心要点
- Drama 3 是一款 35B 的 MoE TTS 模型,激活参数约 3B。
- 用普通语言书写指令,加上每次请求支持 16 个说话人,定位于剧本类音频制作。
- 在 AA 发音鲁棒性测试中得分 93.2%;精确序列项偏弱,仅 86.3%。
- 自托管需要 48 GB 以上 NVIDIA 显存(FP8)。
- 免费商业使用的上限为年营收 50 万美元。
本文来自作者投稿,版权归原作者所有。如需转载,请注明出处:https://www.nxrte.com/jishu/72565.html