继续浏览精彩内容
慕课网APP
程序员的梦工厂
打开
继续
感谢您的支持,我会继续努力的
赞赏金额会直接到老师账户
将二维码发送给自己后长按识别
微信支付
支付宝支付

大师,我悟了--它山之石可以攻玉

九州编程
关注TA
已关注
手记 475
粉丝 42
获赞 203

状况:

1.一直在清洗数据,提高数据集质量,将accuracy指标撸到90%以上了,之后做了不少功夫,都很难超越

  1. GPU也不是很够用,要验证做一个实验也要一两天
  2. 而我定的目标是95%以上

image.png

停下来

在有瓶颈的情况下,不如先停下来,重新思考提升指标的方向,深入模型了解各个环节

image.png

灵感

在调试另一个涉及到ViT项目中,OneCycleLR调参过程中,突然就有了灵感,是不是learning rate设置不够合理,其实loss还有下降的空间

image.png

马上验证,等了一个多小时,没想到第一个epochs就有惊喜,比之前最好的模型指标高了0.5%,后续应该还有下降空间.

作者:GoodWillHunting_小新

打开App,阅读手记
0人推荐
发表评论
随时随地看视频慕课网APP