IPM框架中，GAN优化有哪些一览？

本文共计2173个文字，预计阅读时间需要9分钟。

今天这篇小文将是GAN模型理论的最后一篇介绍。内容涉及一些复杂的数学技巧和方法，难度较高，理论结果也相当优美。但要想完全搞懂其中的奥秘，确实需要相当大的精力和知识储备。

今天的这篇小文将是GAN模型理论介绍的最后一篇。有一些内容，所用数学技巧和方法非常高大上，理论结果也非常漂亮，但是完全搞明白其中的门门道道需要相当大精力和知识铺垫，况且实际运用也非常小众，但是作为模型理论里十分重要的一部分，有必要做一定程度的了解。故今天的文章将类似于“参观博物馆”的形式，只大概展示一些结果，带领大家看一看IPM框架和由此产生的各种各样的GAN。

作者&编辑 | 小米粥

在第二期，已经解释过原始形式的GAN其实只是fGAN的一个特例，在fGAN中我们可以通过选择不同形式的f(x)来获得不同的距离度量，从而产生各种GAN，例如LSGAN，EBGAN。其实，关于GAN的目标函数，除了f-divergence外还有另一大类：IPM，非常熟悉的WGAN便是属于IPM框架下的一种GAN。类似地，我们也可以在IPM框架下产生各种各样的GAN。

1 IPM

IPM(integral probability metric)也是一种对于两个概率分布之间的距离的度量。在IPM技术中，首先定义了满足某种限制条件的某一类函数的集合F，然后寻找一个最优的f(x)∈F使得两个分布之间的差异最大，该最大的差异值即为两个分布之间的距离：

这里要求f(x)（判别器）是可测、有界的实值函数，且函数空间F是对称的。

正是由于选择不同的函数空间F，导致了两种分布之间的各种各样的距离度量以及它们的性质差异。