inverse_time_decay
在初始学习率上运用逆时衰减。
训练模型时,最好在训练过程中降低学习率。通过执行该函数,将对初始学习率运用逆时衰减函数。
逆时衰减计算方式如下。
learning_rate (Variable|float) - 初始学习率,类型可以为学习率变量(Variable)或float型常量。
decay_steps (int) - 学习率衰减步长,见以上衰减运算。
decay_rate (float) - 学习率衰减率。见以上衰减运算。
返回:Variable(Tensor) 随step衰减的学习率变量,维度为
的1-D Tensor。
示例代码:
base_lr = 0.1
sgd_optimizer = fluid.optimizer.SGD(
learning_rate=base_lr,
decay_steps=10000,