[babysor/MockingBird]loss不降反升

2024-07-16 553 views
1

我在wsl中训练,速度快了,但是loss却反升 windows中也反升 是因为我改了这几个参数吗 image

回答

3

好了,是螺旋形下降

3

大佬,LOSS迟迟不下降有什么好的方法吗

5

大佬你是怎么解决的,升降反复的?

3

我是这样想的: 你一模一样的数据集放进去训练个几千遍,就一直只有这么一点,模型它也受不了啊,它也要一定的数据量来支持运算,一个数据集练很多遍,反而效果可能不是很好。

6

不是吧,那我一样的数据集,每次调不同的BZ,loss下降的是不一样的呀

5

qs,batch_size是非常重要的