1.Improving Domain-Adapted Sentiment Classification by Deep Adversarial Mutual Learning:
1.1本篇论文提出了一种名为深度对抗性互学习(Deep Adversarial Mutual Learning, DAML)的新方法,用于改进领域适应性情感分类。
对抗学习:
类图中结果~
详见:https://zhuanlan.zhihu.com/p/359496110
1.2交叉熵损失计算公式:
理解详见:02_交叉熵损失原理_哔哩哔哩_bilibili
1.3互学习理解:
通过采用两个网络联合训练来提升深度神经网络的泛化性能。该算法不仅可以用于训练高效的小网络,也可以进一步提升大网络性能,且容易扩展到多网络学习及半监督学习场景中。
首先我们认为类别概率估计蕴含了网络挖掘到的数据本质规律。
其次我们认为约束类别概率相近起到正则化作用。
最后,我们认为网络在训练过程中会参考同伴网络的经验来调整自己的学习过程,最终能够收敛到一个更平缓的极小值点,从而具备更好的泛化性能。
详见:深度互学习-Deep Mutual Learning:三人行必有我师 - 知乎 (zhihu.com)
1.4 HAN网络
2.1论文思想:
-
- 领域适应性情感分类旨在通过在有标签的源域上训练,来推断无标签目标域上的文档级情感。
- 现有的模型通常包括特征提取器和情感分类器,但它们缺乏利用目标域中的情感极性。
- 提出方法:DAML通过两组特征提取器、领域判别器、情感分类器和标签探针来实现。领域判别器帮助特征提取器获得领域不变特征。标签探针通过探针组内的情感预测来探索目标域的文档情感极性,并指导本组特征提取器的学习。
- 提出了一种新的学习方法,结合了对抗学习和互学习的优点,并通过标签探针学习目标域的情感极性。在多个公共数据集上进行了实验,证明了DAML方法在领域适应性情感分类任务上取得了最先进的性能。
- 方法细节:使用层次注意力网络(HAN)作为特征提取器。通过对抗学习确保特征提取器能够生成领域不变的特征表示。通过互学习,使得两组模型能够相互学习,提高对目标域的泛化能力。
论文链接:
2002.00119.pdf (arxiv.org)