模型首先通过Bert进行编码,然后经过双向GRU(在论文中表示,双向GRU一般比双向LSTM的效果要好)之后经过交互层,交互层和DOER论文中的方法相同,使用双线性的注意力机制,比如在计算方面项提取的特征的时候,计算方面项提取中每个词对于情感分析特征中的每个词的注意力,得分越高,从第p个单词和第A个方面获取的情绪表征之间的相关性越高。
Sap被放入SA矩阵中
交互层,比如在计算方面项提取的特征的时候,先计算方面项提取特征中的某个词对于情感分析特征中的每个词的注意力权重,然后将他们加权求和与方面项提取的特征相加。情感分析的特征也是采用同样的方式。
将方面项提取的特征直接用于span级的方面项提取,提取的方式与SPAN论文中的提取方式差不多。情感分析是根据方面项提取的方面词的位置提取出对应的情感分析特征,然后通过注意力机制将他们加权求和得到方面项的特征,之后将文本的向量进行注意力加权求和,将方面项特征与文本的特征进行拼接,最终预测出方面项的情感。
标签:提取,classification,特征,方面,情感,aspect,terms,注意力 From: https://www.cnblogs.com/zhang12345/p/16850625.html