303c2e0
1
2
3
4
5
6
7
_target_: utils.CosineDecayWarmupLRScheduler t_in_epochs: False t_initial: ${eval:${trainer.max_steps}-${.warmup_t}} warmup_prefix: True warmup_lr_init: 1e-6 warmup_t: ${eval:0.1*${trainer.max_steps}} lr_min: 1e-6
