热门
导航
快讯
推荐文章
热门
导航
快讯
推荐文章
#内存
Basic-UI-for-GPT-J-6B-with-low-vram
本项目介绍了一种使用RAM、VRAM和固定内存在低显存系统上运行GPT-J-6B的方法,包含详细的设置与运行指南以及性能测试数据,适合硬件资源有限的用户使用。
bigcache
BigCache是一个Go语言编写的高性能内存缓存库,专为大规模数据存储设计。通过优化内存管理,BigCache有效减少了垃圾回收对性能的影响。它支持并发操作,提供灵活配置,相比同类库具有更快的速度和更低的GC暂停时间。BigCache适用于要求高吞吐量和低延迟的场景,并提供HTTP服务器实现便于部署。
tiny-gpu
tiny-gpu是一个精简的GPU实现项目,旨在帮助学习者理解GPU工作原理。该项目聚焦通用GPU和机器学习加速器的核心原理,包括架构设计、SIMD并行化和内存管理。通过Verilog实现、架构文档和矩阵运算示例,tiny-gpu简化了复杂概念,使学习者能从底层理解现代硬件加速器的关键要素。
相关文章
使用Basic-UI-for-GPT-J-6B-with-low-vram在低显存设备上运行GPT-J-6B模型
2 个月前
Tiny GPU: 一个用于学习GPU工作原理的最小化GPU设计
2 个月前
Tiny GPU: 深入了解图形处理器工作原理的最小化实现
2 个月前
使用协议
隐私政策
广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI
·
鲁ICP备2024100362号-6
·
鲁公网安备37021002001498号