GoogLeNet系列论文中的关键点有哪些？

本文共计4270个文字，预计阅读时间需要18分钟。

Inception技术演进：从V1（GoogLeNet）到V4，再到Inception-ResNet和Xception，GoogLeNet和Inception V1在过去三年中，图像识别和目标检测的质量以惊人的速度发展。这些进展令人振奋。

Inception技术演进

V1(GoogLeNet）=> BN-Inception => V2 => V3 => V4 => Inception-ResNet => Xception

GoogLeNet Incepetion V1

在过去三年中，图像识别和目标检测的质量以惊人的速度发展。令人振奋的是，大多数的进步并不只是因为更强大的硬件，更大的数据集和更大的模型，而是因为是新想法、算法和改进的网络架构。

提高深度神经网络的最直接的方法是增加size，包括depth（增加层数）和width（每层的单元数量），这是一个简单安全的方法，但是有两大缺点：（1）容易过拟合（2）增加计算量。解决这两个问题方法是用稀疏连接取代密集连接。

但是计算机在计算非统一的稀疏数据结构时力不从心，需要更复杂的工程和计算基础设施。早些的时候，为了打破网络对称性和提高学习能力，传统的网络都使用了随机稀疏连接。但到了AlexNet的时代重新启用了全连接层，目的是为了实现更好的并行运算加速。

如何既保持网络结构的稀疏性，又利用密集矩阵的高计算性能？论文提出了名为Inception的结构。

Architectural Details

Inception的主要思想是用密集模块去近似出局部最优稀疏结构。