多语种语音转换文本方法、系统、存储介质及电子设备

专利主权项内容

1.一种多语种语音转换文本方法，其特征在于，所述方法包括以下步骤：获取多个语种的语音音频信息和对应的语音转换文本请求和语音转换文本；基于所述语音音频信息、所述语音转换文本请求和所述语音转换文本训练多语种语音文本转换模型；训练所述多语种语音文本转换模型包括获取所述语音转换文本对应的文本嵌入信息；抽取所述语音音频信息的声学特征；对所述声学特征进行压缩处理，获取有效声学特征；对所述有效声学特征进行编码，获取编码声学特征；基于所述文本嵌入信息和所述编码声学特征生成所述语音音频信息对应的文本信息；基于训练好的多语种语音文本转换模型将待识别语音音频信息转换为对应的文本信息；基于所述文本嵌入信息和所述编码声学特征生成所述语音音频信息对应的文本信息包括以下步骤：将所述文本嵌入信息和所述编码声学特征进行正则处理，获取输入信息；对所述输入信息进行注意力机制操作，得到注意力机制的矩阵Q、K、V；基于所述矩阵Q、K、V生成注意力权重矩阵；对所述注意力权重矩阵的非相关向量进行掩膜处理；将掩膜处理后的注意力权重与矩阵V进行矩阵相乘，再经过线性层后得到矩阵V’，根据T=V’*sigmoid(P*V’) +W*V’获取输出向量，其中T表示输出向量，P和W表示预定义矩阵；将所述输出向量经过线性层和softmax函数后，再转换为补充文本嵌入信息；根据所述补充文本嵌入信息、所述文本嵌入信息和所述编码声学特征再次获取输入信息，并得到对应的输出向量，直至所获取的所有输出向量与所述语音转换文本相一致，所述所有输出向量即为所述文本信息。 来自