natural_exp_decay

• natural_exp_decay(learning_rate, decay_steps, decay_rate, staircase=False)[源代码]

训练模型时，在训练过程中降低学习率。 自然指数衰减使用自然指数来计算衰减倍率，每 步衰减倍率的自然指数幂次项上增加 decay_rate 。

• 参数：
• • decay_steps (int) - 学习率衰减步长，见以上衰减运算。
  • decay_rate (float) - 学习率衰减率。见以上衰减运算。
  • staircase (bool) - 若为True，按离散区间衰减学习率，即每 步衰减倍率的自然指数幂次项上增加 decay_rate 。若为False，则按以上衰减运算持续衰减。默认False。

返回：Variable(Tensor) 随step衰减的学习率变量，维度为

返回类型：变量(Variable)

import paddle.fluid as fluid
sgd_optimizer = fluid.optimizer.SGD(
    learning_rate=fluid.layers.natural_exp_decay(
          learning_rate=base_lr,
          decay_steps=10000,
          staircase=True))