典型文献
基于BERT的灾害三元组信息抽取优化研究
文献摘要:
为从网络媒体文本中快速、准确提取灾害三元组信息,利用 自然语言处理(NLP)技术,研究灾害三元组信息抽取应用及其算法优化.通过双向编码器表示(BERT)预训练语言模型,应用于地质灾害三元组信息提取的实例中,针对模型由于底层多头注意力(MHA)机制会导致"低秩瓶颈"问题,对此,通过增大模型key-size对其进行优化.结果表明:所提方法能够显著提升从新闻报道等文本中提取地质灾害种类、发生地点、发生时间等关键信息的容错率及精准率;可得到对地质等灾害空间分布情况和趋势的分析,进而为预案编制、应急资源优化配置、区域监测预警等灾害应急管理工作提供科学分析和决策信息支持.
文献关键词:
然语言处理(NLP);双向编码器表示(BERT);低秩瓶颈;多头注意力(MHA);灾害信息
中图分类号:
作者姓名:
宋敦江;杨霖;钟少波
作者机构:
中国科学院科技战略咨询研究院,北京100190;太原学院计算机科学与技术系,山西太原030032;北京城市系统工程研究中心城市运行研究部,北京100035
文献出处:
引用格式:
[1]宋敦江;杨霖;钟少波-.基于BERT的灾害三元组信息抽取优化研究)[J].中国安全科学学报,2022(02):115-120
A类:
低秩瓶颈
B类:
BERT,三元组,信息抽取,网络媒体,自然语言处理,NLP,算法优化,双向编码器表示,预训练语言模型,地质灾害,信息提取,多头注意力,MHA,大模型,key,size,新闻报道,发生地,发生时间,关键信息,容错率,预案编制,应急资源,资源优化配置,区域监测,监测预警,灾害应急,应急管理工作,科学分析,分析和决策,决策信息,信息支持,灾害信息
AB值:
0.37231
相似文献
机标中图分类号,由域田数据科技根据网络公开资料自动分析生成,仅供学习研究参考。