参数名称

参数说明

learning_rate

初始学习率

global_step

用于衰减计算的全局步数,非负,用于逐步计算衰减指数

decay_steps

衰减步数,必须是正值,决定衰减周期

decay_rate

衰减率

end_learning_rate

最低的最终学习率

cycle

学习率下降后是否重新上升

alpha

最小学习率

num_periods

衰减余弦部分的周期数

initial_variance

噪声的初始方差

variance_decay

衰减噪声的方差