可参考的 TTS 模型榜单人耳榜单是指通常让用户听两个输出,再选更喜欢的那个。投票多了以后,系统会用 Elo 或类似方法排序。这个方法接近真实偏好,但它对开源模型并不友好。
API 模型接入起来快,放一个 key 就能测。open weights 模型要有人托管、跑服务、处理显存和并发,还要为不同语言和声音克隆任务准备样本。Hugging Face 提到,在 Artificial Analysis 的 TTS 榜单里,92 个模型中只有 16 个是 open weights。
所以人耳偏好适合做最终体验判断,可复现指标适合高频筛选。开源模型如果每次都等投票,迭代速度会被评测本身拖慢。
Open TTS Leaderboard 的价值在于把几类代理指标放到一起。ASR 识别后的 WER 可以近似衡量可懂度。speaker similarity 可以看声音克隆有没有跑偏。流式指标则把首包、分段延迟和长文本稳定性拉进视野。
这些指标和人耳直观感受或许有点差别。WER 低不代表自然,speaker similarity 高也不代表像真人,流式延迟好看也可能牺牲停顿和韵律。它们能挑出错误,先拦掉读错、跑音色、长句崩掉和首包太慢的版本。
可以考虑把这些指标放在 CI 或每日评测里。每次换模型、换说话人、换分句策略,都跑同一组中文、英文、数字、地址、口语停顿和行业术语样本。这样听 demo 之前,负责测试的同事已经知道哪里最容易出问题了。
做语音客服、配音工具和实时翻译的时候,需要保留一组长期不变的评测音频和文本。样本要覆盖普通话、英文夹杂、数字金额、地址、产品名、停顿、情绪和噪声背景。
上线前可以分两步。先用可复现指标筛掉明显退化版本,再让人耳听选出来的边界样本。人耳要听自然度、情绪和是否像目标说话人,也要听有没有让客服或内容审核误判的发音。
参考来源
- Open TTS Leaderboard: Scalable Evaluation for Multilingual Text-to-Speech and Voice Cloning