典型文献
融合空间位置注意力机制的英语题注生成模型
文献摘要:
为使题注生成模型生成流畅、连贯和信息丰富的特定信息题注,在Transformer架构的基础上提出了Transformer Chart to Text(TransChartText)模型.通过筛选各种科研论文和新闻文章网站,制作了基于图表的题注描述数据集,该数据集的英语题注描述涵盖了丰富的数据类别和逻辑推理.引入数据变量替换图表数据值,有效提高了模型生成题注的内容选择,促使模型生成了连贯的题注内容.为进一步增强模型学习词与词之间位置关系的能力并降低错误词序频率,模型分别对编码器和解码器引入空间位置嵌入编码和集束搜索算法.实验结果表明,TransChartText模型在内容选择(CS)、内容排序(CO)、ROUGE、BLEU指标上取得了更好的分数,生成了高质量的基于图表的英语题注.
文献关键词:
语言模型;生成式题注;Transformer;注意力机制;集束搜索
中图分类号:
作者姓名:
王琴;王鑫;颜靖柯;钟美玲;曾静
作者机构:
桂林电子科技大学 基础教学部,广西 北海 536000;桂林电子科技大学 计算机与信息安全学院,广西 桂林 541004;桂林电子科技大学 海洋工程学院,广西 北海 536000;桂林电子科技大学 计算机工程学院,广西 北海 536000;电子科技大学 信息与软件工程学院,成都 610000
文献出处:
引用格式:
[1]王琴;王鑫;颜靖柯;钟美玲;曾静-.融合空间位置注意力机制的英语题注生成模型)[J].计算机工程与应用,2022(12):139-148
A类:
TransChartText,生成式题注
B类:
空间位置,位置注意力机制,生成模型,模型生成,流畅,连贯,Transformer,过筛,科研论文,文和,图表,数据类别,逻辑推理,变量替换,换图,内容选择,增强模型,模型学习,位置关系,词序,编码器,解码器,位置嵌入,入编,集束搜索,搜索算法,CS,ROUGE,BLEU,语言模型
AB值:
0.35065
相似文献
机标中图分类号,由域田数据科技根据网络公开资料自动分析生成,仅供学习研究参考。