← 返回列表
一种基于音高的语音转换模型训练方法及语音转换系统
申请人信息
- 申请人:南京硅基智能科技有限公司
- 申请人地址:210012 江苏省南京市雨花台区凤信路20号万博科技园C号楼4层
- 发明人: 南京硅基智能科技有限公司
专利详细信息
| 项目 | 内容 |
|---|---|
| 专利名称 | 一种基于音高的语音转换模型训练方法及语音转换系统 |
| 专利类型 | 发明申请 |
| 申请号 | CN202311845426.2 |
| 申请日 | 2023/12/28 |
| 公告号 | CN117765959A |
| 公开日 | 2024/3/26 |
| IPC主分类号 | G10L21/007 |
| 权利人 | 南京硅基智能科技有限公司 |
| 发明人 | 司马华鹏; 徐冉 |
| 地址 | 江苏省南京市雨花台区凤信路20号万博科技园C号楼4层 |
摘要文本
本申请提供一种基于音高的语音转换模型训练方法及语音转换系统,通过先验编码器输出音频特征编码,并通过音高提取模块提取音高特征。然后将参考语音对应的线性谱输入至所述后验编码器中,得到音频隐变量。并将音频特征编码和音高特征拼接得到的语音拼接特征和音频隐变量输入至时序对齐模块,得到转换语音编码,并通过解码器解码转换语音编码,得到转换后的语音。再计算转换后的语音的训练损失,以判断语音转换模型的收敛程度。本申请通过音高提取模块提取参考语音的音高特征,并与音频特征编码进行拼接对齐,使转换后的语音的音高特征更加接近真实人物的语音,提高转换后的语音的音高相似度。
专利主权项内容
1.一种基于音高的语音转换模型训练方法,用于训练语音转换模型,所述语音转换模型包括,先验编码器、后验编码器、时序对齐模块、解码器和音高提取模块,其特征在于,包括:将参考语音输入至所述先验编码器和所述音高提取模块,以通过所述先验编码器提取音频特征编码,以及,通过所述音高提取模块提取音高特征;将所述音频特征编码和所述音高特征执行特征拼接,得到语音拼接特征;将所述参考语音对应的线性谱输入至所述后验编码器中,得到音频隐变量;通过所述时序对齐模块对齐所述语音拼接特征和所述音频隐变量的时序序列,得到转换语音编码;通过所述解码器解码所述转换语音编码得到转换后的语音;计算所述转换后的语音的训练损失,如果所述训练损失小于或等于训练损失阈值,则根据待训练模型的当前参数输出语音转换模型,如果所述训练损失大于训练损失阈值则对所述语音转换模型执行迭代训练,所述待训练模型为未训练收敛的语音合成模型。