找回密码
 立即注册
查看: 1061|回复: 3

CosyVoice V4版 - 阿里最新开源语音克隆、文本转语音项目 新增模型,大幅度提升转换速度,本地一键整合包下载

[复制链接]

签到天数: 18 天

[LV.4]偶尔看看III

607

主题

726

回帖

4万

积分

武林盟主

积分
48220

宣传达人灌水之王突出贡献荣誉管理论坛元老

QQ
发表于 2024-10-1 11:15:07 | 显示全部楼层 |阅读模式

CosyVoice V4版 - 阿里最新开源语音克隆、文本转语音项目 新增模型,大幅度提升转换速度,本地一键整合包下 ...

CosyVoice V4版 - 阿里最新开源语音克隆、文本转语音项目 新增模型,大幅度提升转换速度,本地一键整合包下 ...

近日,阿里通义实验室发布开源语音大模型项目FunAudioLLM,而且一次包含两个模型:SenseVoiceCosyVoice

今天分享的V4版基于官方9月29日更新版本,在上个版本的基础上,同步了官方最新代码,新增CosyVoice-300M-25Hz模型,新模型在克隆音色的推理速度上有了大幅度提升,总体速度提升了两倍。但缺点也是有的,速度提升的同时,牺牲了音色克隆的效果,但差别也不是太大。

CosyVoice专注自然语音生成,支持多语言、音色和情感控制,支持中英日粤韩5种语言的生成,效果显著优于传统语音生成模型。

仅需要3~10s的原始音频,CosyVoice即可生成模拟音色,甚至包括韵律、情感等细节,包括跨语种语音生成。

而且CosyVoice支持以富文本或自然语言的形式,对生成语音的情感、韵律进行细粒度的控制,生音频在情感表现力上得到明显提升。

研究团队提供了基模型CosyVoice-300M、经过SFT微调后的模型CosyVoice-300M-SFT、以及支持细粒度控制的模型CosyVoice-300M-Instruct和最新的CosyVoice-300M-25Hz模型,可满足不同场景下的使用需求。CosyVoice-300M本身具备一定从文本内容中推断情感的能力,经过细粒度控制训练的模型CosyVoice-300M-Instruct在情感分类中的得分更高,具备更强的情感控制能力。

CosyVoice很好地建模了合成文本中的语义信息,达到了与人类发音人相当的水平。此外,通过对合成音频进行重打分,能够进一步降低识别的错误率,甚至在内容一致性和说话人相似度上超越人类。

使用教程参考之前的版本。
注意,只支持N卡,使用前请确保驱动更新至官方最新版,驱动更新方法参考此贴:https://deepface.cc/thread-302-1-1.html
已知问题,合成的音频点击下载无反应,等待官方修复。临时解决方案,右键 合成音频 音频另存为即可保存到本地。

下载地址:
DEEPFACE论坛免责声明
本论坛发布的所有内容,包括图片、软件、模型等部分来自网络,版权归原作者所有。
本论坛提供的内容仅用于个人学习和研究,请勿滥用,否则由此引发的责任需自行承担。
请合理合法使用AI技术,并遵守当地法律法规,不要用于违法用途!
如本站发布内容侵犯了你的合法权益,请联系我们删除。

各种参数DFL换脸模型/实时换脸模型底丹、实时换脸模型训练教学/实时换脸模型定制、AI软件个性化定制
论坛所有一键包报错请在帖子下方跟帖,看到会回复,不支持一对一解答,请确认再下载!
全站默认解压密码: https://deepface.cc/ (密码就是这个网址,不要点开去找。复制完整网址即可,不要有空格)

签到天数: 1 天

[LV.1]初来乍到

0

主题

54

回帖

71

积分

无名之辈

积分
71
发表于 2024-10-1 13:20:16 | 显示全部楼层
更新了 期待

该用户从未签到

0

主题

4

回帖

10

积分

初入江湖

积分
10
发表于 2024-10-1 17:25:36 | 显示全部楼层
迫不及待来使用了

该用户从未签到

0

主题

25

回帖

67

积分

无名之辈

积分
67
发表于 2024-10-19 16:35:43 | 显示全部楼层
感谢分享,确实还可以
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|AIGC资源站

GMT+8, 2025-4-19 08:01 , Processed in 0.092460 second(s), 5 queries , Redis On.

Powered by Discuz! X3.5

©2001-2023 Discuz! Team

快速回复 返回顶部 返回列表