TwKit
正在载入
TwKit

梳理一下当前主流的牛逼的TTS(文字转语音)方案,供大家参考: CosyVoice 2:工业级低延迟与流式交互,阿里通义出品。核心优势在于首包音频延迟低,只… · @realchendahuang · TwKit

@realchendahuang

梳理一下当前主流的牛逼的TTS(文字转语音)方案,供大家参考: CosyVoice 2:工业级低延迟与流式交互,阿里通义出品。核心优势在于首包音频延迟低,只有 150 毫秒左右,支持文字边生成边发声。覆盖中英日韩和多地方言,适合配合大模型做全双工实时语音 Agent 和数字人。 GPT-SoVITS:专属音色定制与像真度,花儿不哭等团队开源。虽然支持几秒快速克隆,但它最强的是用 1 分钟左右音频进行小样本微调。微调后的音色相似度、口音细节和语气习惯极其逼真,配有人声分离和切片打标的全套 WebUI,是自媒体配音和角色专属声库的首选。 ChatTTS,拟人口语与对话松弛感,专为闲聊对话设计。首创将笑声、叹气和语气词自然融入生成过程,大幅消除了传统语音合成刻板的播音腔。中英混读非常顺畅,很适合做 AI 播客或陪伴型助手。缺点是随机性较强,长文本偶尔有吞字。 F5-TTS 与 Breeze-TTS 2,流匹配免对齐克隆,以交大团队开源的 F5-TTS 为代表,丢掉了繁琐的音素强制对齐和时长预测。只需 5 到 10 秒提示音频,就能维持极高的音色一致性,长文本朗读稳定性好,在海外社区同样被当作主力工具。 Fish Audio Drama 3,全功能戏剧表现力,各维度能力非常均衡,具备丰富的细粒度情绪标签、停顿和多说话人控制,在各类开源评测榜名列前茅。代价是模型体积偏大、推理较慢,对本地算力要求较高。 MaskGCT,学术前沿与极端发音,港中文深修与趣丸团队研发。在 10 万小时真实场景语音上训练,两阶段非自回归结构鲁棒性极高,连传统模型很难处理的气声、耳语和绕口令都能稳定复刻。 KittenTTS 2,端侧极低资源运行主打轻量化的三值化结构,体积只有几十兆。普通 CPU 甚至嵌入式设备就能实时跑通,适合极低资源环境下的离线小工具,代价是语气平淡、表现力有限。

曝光 971 · 评论 2 · 点赞 10 · 书签 9

查看原帖