小样本利器2如何应用于文本对抗与FGSM半监督学习？

本文共计2191个文字，预计阅读时间需要9分钟。

本节我们将探讨如何结合FGSM、FGM和VAT来提升对抗训练效果，以及如何结合半监督学习来提高模型的鲁棒性。其中，FGSM主要阐述了对抗样本存在的性质及其对对抗训练提升模型鲁棒性的作用，而VAT的两篇重要论文分别是Adversarial Training Methods and Their Applications to Deep Learning和VAT: Variance-Augmented Training for Robust Deep Learning。

这一章我们结合FGSM，FGM，VAT看下如何使用对抗训练，以及对抗训练结合半监督来提升模型的鲁棒性。其中FGSM主要论述了对抗样本存在性和对抗训练提升模型鲁棒性的原因，VAT的两篇是对抗在CV领域应用的论文，而FGM是CV迁移到NLP的实现方案，一作都是同一位作者大大，在施工中的Simple Classification提供了FGM的tensorflow实现～ 小样本利器2.文本对抗+半监督 FGSM & VAT & FGM代码实现

上一章我们聊了聊通过一致性正则的半监督方案，使用大量的未标注样本来提升小样本模型的泛化能力。这一章我们结合FGSM，FGM，VAT看下如何使用对抗训练，以及对抗训练结合半监督来提升模型的鲁棒性。本章我们会混着CV和NLP一起来说，VAT的两篇是CV领域的论文，而FGM是CV迁移到NLP的实现方案，一作都是同一位作者大大。