毛腾跃,郑志鹏,郑禄.基于改进自注意力机制的方面级情感分析[J].中南民族大学学报自然科学版,2022,41(1):94-100
基于改进自注意力机制的方面级情感分析
Aspect-level sentiment analysis based on improved self-attention mechanism
  
DOI:10.12130/znmdzk.20220115
中文关键词: 情感分类  方面级别  自注意力机制  双向LSTM
英文关键词: sentiment classification  aspect-level  self-attention mechanism  BLSTM
基金项目:湖北省技术创新专项资助项目(2019ABA101);湖北省科技计划资助项目(2019CFC890);武汉市科技计划应用基础前沿项目(2020020601012267)
作者单位
毛腾跃 中南民族大学 计算机科学学院 & 湖北省制造企业智能管理工程技术研究中心武汉 430074 
郑志鹏 中南民族大学 计算机科学学院 & 湖北省制造企业智能管理工程技术研究中心武汉 430074 
郑禄 中南民族大学 计算机科学学院 & 湖北省制造企业智能管理工程技术研究中心武汉 430074 
摘要点击次数: 719
全文下载次数: 637
中文摘要:
      方面级情感分析是一项细粒度的情感分类任务,目前常用的研究方法是使用神经网络模型结合注意力机制的模式,使用注意力机制挖掘方面词和上下文之间的关系.但是传统的注意力机制在训练时,往往会倾向于关注出现频率较高的情感词,给其分配较高的注意力权重值,对于低频情感词却关注不足.为了解决上述问题,提出了一种使用改进的自注意力机制的方面级情感分析模型.通过改进注意力机制的训练过程,使模型的注意力机制在训练时可以针对性地屏蔽掉高频情感词的影响,挖掘出句子中的低频情感词,得到更高的情感分类准确率 . 在SemEval 2014的两个公开数据集和Twitter数据集上进行了相应的实验,该方法与ATAE-LSTM等模型相比,情感分类准确率分别提升了1.93%、2.04%、0.93%.
英文摘要:
      Aspect-level sentiment analysis is a fine-grained sentiment classification task. At present,the commonly used research method is to use the neural network model combined with the mode of the attention mechanism,and use the attention mechanism to mine the relationship between aspect words and context. However,the traditional attention mechanism tends to pay attention to the emotional words with higher frequency during training,and assigns higher attention weight values to them,while pay little attention to the low frequency emotional words. In order to solve the above problems,this paper proposes an aspect-level sentiment analysis model using improved self-attention mechanism. By improving the training process of the attention mechanism,the attention mechanism of the model can shield the influence of higher frequency emotional words with directed focus during training,dig out lower frequency emotional words in sentences, and obtain higher accuracy of emotion classification. Compared with models such as ATAE-LSTM, corresponding experiments were carried out on the two public data sets of SemEval 2014 and the Twitter data set,and the accuracy of sentiment classification of the model increased by 1.93%,2.04%,0.93%,respectively.
查看全文   查看/发表评论  下载PDF阅读器
关闭