继续训练的学习率问题

大神您好，当训练终止后，修改学习率的衰减里程碑，然后再继续训练，发现还是按照原来的学习率衰减规则来训练的，请问有什么解决方法吗？
比如我第一次训练的设置的 milestones: [250000, 400000, 450000, 470000]，训练终止后，我修改为 milestones: [400000, 470000]，但是它的学习率减半还是按照第一次训练来执行的。