热门
导航
快讯
推荐文章
热门
导航
快讯
推荐文章
#Gradient Cache
GradCache - 突破GPU/TPU内存限制,实现对比学习无限扩展
Gradient Cache
对比学习
Pytorch
JAX
GPU
Github
开源项目
Gradient Cache技术突破了GPU/TPU内存限制,可以无限扩展对比学习的批处理大小。仅需一个GPU即可完成原本需要8个V100 GPU的训练,并能够用更具成本效益的高FLOP低内存系统替换大内存GPU/TPU。该项目支持Pytorch和JAX框架,并已整合至密集段落检索工具DPR。
1
1
相关文章
GradCache:突破GPU/TPU内存限制,无限扩展对比学习批量大小的利器
2024年09月04日
使用协议
隐私政策
广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI
·
鲁ICP备2024100362号-6
·
鲁公网安备37021002001498号