Tensorflow如何应用于实际卷积神经网络项目?
- 内容介绍
- 文章标签
- 相关推荐
本文共计655个文字,预计阅读时间需要3分钟。
1. 防止dead neuron:由于ReLU的原因,需避免dead neuron和0梯度。使用截断的均一分布噪声,对偏置增加一些小的正值。
1.防止dead neuron
因为ReLU的原因,所以要避免dead neuron和0梯度。对权重使用截断的正态分布噪声,对偏置增加一些小的正值。
initail = tf.truncated_nomal(shape, stddev = 0.1)
# bias
initial = tf.constant(0.1, shape=shape)
2.2维卷积函数
卷积核的数量就代表了这个卷积层可以提取多少类的特征。
本文共计655个文字,预计阅读时间需要3分钟。
1. 防止dead neuron:由于ReLU的原因,需避免dead neuron和0梯度。使用截断的均一分布噪声,对偏置增加一些小的正值。
1.防止dead neuron
因为ReLU的原因,所以要避免dead neuron和0梯度。对权重使用截断的正态分布噪声,对偏置增加一些小的正值。
initail = tf.truncated_nomal(shape, stddev = 0.1)
# bias
initial = tf.constant(0.1, shape=shape)
2.2维卷积函数
卷积核的数量就代表了这个卷积层可以提取多少类的特征。

