| 参数名称 | 参数说明 | 
| learning_rate | 初始学习率 | 
| global_step | 用于衰减计算的全局步数,非负,用于逐步计算衰减指数 | 
| decay_steps | 衰减步数,必须是正值,决定衰减周期 | 
| decay_rate | 衰减率 | 
| end_learning_rate | 最低的最终学习率 | 
| cycle | 学习率下降后是否重新上升 | 
| alpha | 最小学习率 | 
| num_periods | 衰减余弦部分的周期数 | 
| initial_variance | 噪声的初始方差 | 
| variance_decay | 衰减噪声的方差 |