[babysor/MockingBird]loss不降反升

2024-07-16 236 views
4

我在wsl中训练,速度快了,但是loss却反升 windows中也反升 是因为我改了这几个参数吗 image

回答

8

好了,是螺旋形下降

9

大佬,LOSS迟迟不下降有什么好的方法吗

7

大佬你是怎么解决的,升降反复的?

0

我是这样想的: 你一模一样的数据集放进去训练个几千遍,就一直只有这么一点,模型它也受不了啊,它也要一定的数据量来支持运算,一个数据集练很多遍,反而效果可能不是很好。

2

不是吧,那我一样的数据集,每次调不同的BZ,loss下降的是不一样的呀

5

qs,batch_size是非常重要的