最近,图卷积神经网络因为其优越的性能(能很好的考虑词语间的依赖)被广泛的应用在自然语言处理任务当中。其一般方式为首先将文本转化为邻接矩阵的形似,然后结合文本的特征表示即可输入到GCN中,但是现有的研究大多针对于如何更好的表示词语间的依赖,而忽略了上下文的情感知识。因此这篇文章在结合SenticNet的基础上构建词语间的依赖,提出了Sentic GCN。
文章提出模型框架如上图所示,嵌入层可选用glove或者BERT,然后通过双向LSTM或者文本的特征向量表示。在另一方面通过spacy工具,在结合SenticNet的基础上生成词语之间的依赖最后输入到GCN中完成分类。
对于每一句话作者首先采用了最基本的spacy工具生成词语间的邻接矩阵,
然后通过SenticNet(开源的)获取每个单词的情感评分,并与邻接矩阵相加
此外,现有的基于GCN的方面情感分析模型在构建图时通常忽略了对给定方面的重要关注。因此,在这项工作中,作者 基于SenticNet进一步增强了上下文词和体词之间的情感依赖性,最终表示如下
对于GCN的使用,作者是直接借鉴了2017年那一篇的经典文章这里赘述。
这里作者对不属于特定实体的表示直接处理为0
除此之外作者还应用了检索注意力机制等方式进一步提高模型的得分。
目前对于模型的学习越发的依赖于各种复杂的对于文本的处理,也就越要求我们能细致的理解模型本身。对于外部知识的借鉴肯定是非常正确的,但直接将情感分数和邻接矩阵的0-1表示相加的意义确实有待商榷。
本文发布于:2024-01-29 15:23:49,感谢您对本站的认可!
本文链接:https://www.4u4v.net/it/170651303316225.html
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。
留言与评论(共有 0 条评论) |