懂AI

梯度下降工具集合 | 最佳AI优化资源

相关项目相关文章
EffectiveTensorflow学习资料汇总-TensorFlow教程与最佳实践

EffectiveTensorflow学习资料汇总-TensorFlow教程与最佳实践

EffectiveTensorflow是一个提供TensorFlow教程和最佳实践的GitHub项目。本文汇总了该项目的学习资源,帮助读者更好地入门和掌握TensorFlow。

TensorFlow 2神经网络张量梯度下降自动微分Github开源项目
深度学习在投资组合优化中的应用 - DeepDow框架介绍

深度学习在投资组合优化中的应用 - DeepDow框架介绍

DeepDow是一个连接投资组合优化和深度学习的Python包,旨在促进研究能够在一次前向传递中执行权重分配的神经网络。本文将详细介绍DeepDow的特点、原理和应用。

深度学习投资组合优化Python包梯度下降权重分配Github开源项目
Schedule-Free优化算法：无需复杂学习率调度的深度学习新方法

Schedule-Free优化算法：无需复杂学习率调度的深度学习新方法

Facebook Research推出的Schedule-Free优化算法，无需预先指定停止时间或步数，即可实现快速训练，性能媲美甚至超越现有的学习率调度方法。

Schedule-Free Learning优化器PyTorch梯度下降动量Github开源项目
Adan:一种更快速优化深度模型的自适应Nesterov动量算法

Adan:一种更快速优化深度模型的自适应Nesterov动量算法

Adan是一种新型优化器,能够更快地训练深度学习模型,在多个计算机视觉和自然语言处理任务上都取得了优异的表现。本文详细介绍了Adan的原理、使用方法以及在各种任务上的实验结果。

Adan优化器深度学习梯度下降PyTorchGithub开源项目
Grokfast: 加速Grokking现象的突破性技术

Grokfast: 加速Grokking现象的突破性技术

Grokfast是一种通过放大梯度中的低频成分来加速神经网络泛化的创新方法。本文详细介绍了Grokfast的原理、实现和应用,展示了它如何显著提升机器学习模型的训练效率。

Grokfast机器学习梯度下降过拟合泛化Github开源项目
冲突规避梯度下降算法(CAGrad): 多任务学习的革新性优化方法

冲突规避梯度下降算法(CAGrad): 多任务学习的革新性优化方法

CAGrad是一种创新的多任务学习优化算法,通过巧妙处理任务间的梯度冲突来提升整体性能。本文深入解析CAGrad的核心思想、技术细节及其在多个领域的应用,展示了其在解决多任务学习挑战方面的独特优势。

多任务学习梯度下降CAGradNeurIPS强化学习Github开源项目
Effective TensorFlow 2.0: 最佳实践与重要变化

Effective TensorFlow 2.0: 最佳实践与重要变化

TensorFlow 2.0进行了大规模重新设计,使API更易访问和使用。本文介绍了TensorFlow 2.0的主要变化和最佳实践,帮助开发者有效使用这一强大的机器学习框架。

TensorFlow 2神经网络张量梯度下降自动微分Github开源项目