基于语义特征提取与层次结构的问题生成方法

TP391; 针对传统端到端模型在输入文本语义较复杂情况下生成的问题普遍存在语义不完整的情形,提出一种基于语义特征提取的文本编码器架构.首先构建双向长短时记忆网络获得基础的上下文信息,然后采用自注意力机制及双向卷积神经网络模型分别提取语义的全局特征和局部特征,最后设计一种层次结构,融合特征及输入自身信息得到最终的文本表示进行问题生成.在数据集SQuAD上的实验结果表明,基于语义特征提取与层次结构进行问题生成效果显著,结果明显优于已有方法,并且语义特征提取和层次结构在任务的各评价指标上均有提升....

Full description

Saved in:
Bibliographic Details
Published in吉林大学学报(理学版) Vol. 61; no. 1; pp. 94 - 100
Main Authors 白诗瑶, 吕佳键, 彭涛, 刘露, 崔海
Format Journal Article
LanguageChinese
Published 吉林大学 计算机科学与技术学院,长春 130012%吉林大学 软件学院,长春 130012%吉林大学 计算机科学与技术学院,长春 130012 2023
吉林大学 符号计算与知识工程教育部重点实验室,长春 130012%吉林大学 软件学院,长春 130012
吉林大学 符号计算与知识工程教育部重点实验室,长春 130012
Subjects
Online AccessGet full text
ISSN1671-5489
DOI10.13413/j.cnki.jdxblxb.2021446

Cover

More Information
Summary:TP391; 针对传统端到端模型在输入文本语义较复杂情况下生成的问题普遍存在语义不完整的情形,提出一种基于语义特征提取的文本编码器架构.首先构建双向长短时记忆网络获得基础的上下文信息,然后采用自注意力机制及双向卷积神经网络模型分别提取语义的全局特征和局部特征,最后设计一种层次结构,融合特征及输入自身信息得到最终的文本表示进行问题生成.在数据集SQuAD上的实验结果表明,基于语义特征提取与层次结构进行问题生成效果显著,结果明显优于已有方法,并且语义特征提取和层次结构在任务的各评价指标上均有提升.
ISSN:1671-5489
DOI:10.13413/j.cnki.jdxblxb.2021446