热门
导航
快讯
推荐文章
热门
导航
快讯
推荐文章
#Schedule-Free Learning
schedule_free - 自适应训练优化器,无需预设停止时间
Schedule-Free Learning
优化器
PyTorch
梯度下降
动量
Github
开源项目
Schedule-Free Learning是一种新型PyTorch优化器,无需预设训练停止时间。该方法通过结合插值和平均技术取代传统动量,提高训练效率。不依赖学习率递减调度,却能达到或超越先进调度方法的效果。支持AdamW和SGD版本,并提供实验性包装器,可与各种基础优化器兼容。这种灵活的优化方法为深度学习模型训练提供了新的可能性。
1
1
相关文章
Schedule-Free优化算法:无需复杂学习率调度的深度学习新方法
3 个月前
使用协议
隐私政策
广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI
·
鲁ICP备2024100362号-6
·
鲁公网安备37021002001498号