Tensorflow中梯度下降常用哪些优化算法推荐?
- 内容介绍
- 文章标签
- 相关推荐
本文共计329个文字,预计阅读时间需要2分钟。
`tf.train.exponential_decay`函数用于指数衰减学习率,以下是其简化
指数衰减学习率:通过`tf.train.exponential_decay`函数实现。
1.tf.train.exponential_decay() 指数衰减学习率:
#tf.train.exponential_decay(learning_rate, global_steps, decay_steps, decay_rate, staircase=True/False): #指数衰减学习率 #learning_rate-学习率 #global_steps-训练轮数 #decay_steps-完整的使用一遍训练数据所需的迭代轮数;=总训练样本数/batch #decay_rate-衰减速度 #staircase-衰减方式;=True,那就表明每decay_steps次计算学习速率变化,更新原始学习速率;=alse,那就是每一步都更新学习速率。
本文共计329个文字,预计阅读时间需要2分钟。
`tf.train.exponential_decay`函数用于指数衰减学习率,以下是其简化
指数衰减学习率:通过`tf.train.exponential_decay`函数实现。
1.tf.train.exponential_decay() 指数衰减学习率:
#tf.train.exponential_decay(learning_rate, global_steps, decay_steps, decay_rate, staircase=True/False): #指数衰减学习率 #learning_rate-学习率 #global_steps-训练轮数 #decay_steps-完整的使用一遍训练数据所需的迭代轮数;=总训练样本数/batch #decay_rate-衰减速度 #staircase-衰减方式;=True,那就表明每decay_steps次计算学习速率变化,更新原始学习速率;=alse,那就是每一步都更新学习速率。

