典型文献
一种改进精简的语音识别模型
文献摘要：
为解决深度学习模型在语音识别芯片上内存占用过大的问题,训练时间长,训练深度不够等问题,本文在Transformer语音识别模型的基础上,提出一种减少Transformer计算复杂度的模型,新的模型参数仅有原模型的1/10,模型训练速度大大提升.此外本文在对模型进行参数调整的过程中还对Transformer模型结构中add&norm这一结构结合残差神经网络进行修改,针对模型在训练过程中因为模型深度太深(容易产生梯度消失和梯度爆炸)导致的模型收敛速度过慢或者模型不收敛等问题,在保证词错率下降的同时,加快模型的收敛速度和训练速度,修改结构之后的模型在词错率上相比原有模型词错率更低,并且收敛速度也比未修改结构的模型收敛速度更快.
文献关键词：
语音识别;Transformer;残差神经网络;模型结构修改
中图分类号：
作者姓名：
刘鑫;罗幼喜
作者机构：
湖北工业大学理学院,湖北武汉,430068
文献出处：
引用格式：
[1]刘鑫;罗幼喜-.一种改进精简的语音识别模型)[J].电子测试,2022(24):67-69
A类：
模型结构修改
B类：
精简,语音识别模型,深度学习模型,片上内存,内存占用,训练时间,Transformer,计算复杂度,模型训练,训练速度,参数调整,add,norm,残差神经网络,训练过程,模型深度,梯度消失,收敛速度,过慢,不收,证词,词错率,未修改
AB值：
0.390508
相似文献
机标中图分类号，由域田数据科技根据网络公开资料自动分析生成，仅供学习研究参考。
