状况：
1.一直在清洗数据，提高数据集质量，将accuracy指标撸到90%以上了，之后做了不少功夫，都很难超越
GPU也不是很够用，要验证做一个实验也要一两天- 而我定的目标是95%以上
停下来
在有瓶颈的情况下，不如先停下来，重新思考提升指标的方向，深入模型了解各个环节
灵感
在调试另一个涉及到ViT项目中，OneCycleLR调参过程中，突然就有了灵感，是不是learning rate设置不够合理，其实loss还有下降的空间
马上验证，等了一个多小时，没想到第一个epochs就有惊喜，比之前最好的模型指标高了0.5%，后续应该还有下降空间.
作者：GoodWillHunting_小新
點(diǎn)擊查看更多內(nèi)容
為 TA 點(diǎn)贊
評(píng)論
評(píng)論
共同學(xué)習(xí)，寫下你的評(píng)論
評(píng)論加載中...
作者其他優(yōu)質(zhì)文章
正在加載中
感謝您的支持，我會(huì)繼續(xù)努力的～
掃碼打賞，你說多少就多少
贊賞金額會(huì)直接到老師賬戶
支付方式
打開微信掃一掃，即可進(jìn)行掃碼打賞哦