Project Icon

ao

优化PyTorch工作流,实现高性能和内存占用减少

torchao是一个用于PyTorch工作流的高性能库,能够创建并集成自定义数据类型和优化技术,实现推理速度提升至2倍,显存减少65%。无需大幅修改代码,保持准确度。支持量化、稀疏化及浮点数优化,适用于HuggingFace等模型。用户可以轻松优化模型,提高计算效率。支持int8、int4和float8等多种数据类型,兼容torch.compile()和FSDP。

AutoFP8 - 量化库优化大语言模型推理性能
AutoFP8FP8量化GithubvLLM开源项目模型压缩神经网络
AutoFP8是一个开源FP8量化库,用于生成vLLM兼容的压缩检查点。它提供FP8_E4M3精度的量化权重、激活和KV缓存比例,支持静态和动态激活方案。AutoFP8能将预训练模型转换为FP8格式,与vLLM无缝集成,提高大语言模型推理效率,同时保持模型精度。这个工具适用于优化和部署大规模语言模型。
relora - 使用ReLoRA实现高效深度学习模型训练
GithubPEFTPyTorchReLoRAflash attention开源项目训练
ReLoRA项目通过低秩更新实现高效深度学习训练,兼容Python 3.10+和PyTorch 2.0+,支持更大的微批次大小。用户可通过执行预处理和不同配置的训练脚本,达到高效分布式训练,并支持cosine重启调度和多GPU配置。项目涵盖了预热训练和ReLoRA重启,适用于各种规模的模型训练。
accelerate - 简化多设备PyTorch训练的框架
AccelerateGithubPyTorch分布式训练开源项目混合精度设备管理
Accelerate是一个轻量级PyTorch训练框架,允许在CPU、GPU、TPU等多种设备上运行原生PyTorch脚本。它自动处理设备分配和混合精度训练,简化了分布式训练流程。研究人员和开发者可专注于模型开发,无需关注底层实现细节,从而加速AI模型的训练和部署。
Mythalion-13B-AWQ - 利用高效的低比特量化提升Transformer推理速度
GithubHuggingfaceMythalion 13B伪人AI开源项目文本生成模型模型整合量化
该项目提供高效的AWQ模型文件,支持4比特量化在多用户环境中实现快速Transformer推理。虽然未量化模型的整体吞吐量更高,但通过使用更小的GPU,AWQ模型显著降低了部署成本,例如仅需1台48GB GPU即可运行70B模型。该模型适合需要高吞吐量并行推理的场景,用户可借助vLLM或AutoAWQ轻松调用以降低成本并简化部署。
Llama-2-70B-Chat-AWQ - 基于AWQ的4位量化法优化多用户环境推理效率
AI助手GithubHuggingfaceLlama 2Meta开源项目性能优化模型量化
AWQ是一种高效的四位量化方法,能够提升Transformer的推理速度。结合vLLM,该方案在多用户服务器中实现高吞吐量的并发推理。AWQ的优势包括支持使用较小的GPU进行运行,简化部署要求并降低整体成本。例如,一个70B模型可在一台48GB的GPU上运行,而无需使用两台80GB设备。尽管目前整体吞吐量仍低于未量化模型,AWQ提供了更灵活的硬件选择。
vector-quantize-pytorch - Pytorch向量量化库,可应用于图像和音乐生成
DeepmindGithubJukeboxOpenAIVQ-VAE-2Vector Quantization开源项目
本向量量化库来源于Deepmind的TensorFlow实现,并转化为Pytorch库,使用指数移动平均法来更新字典。它在高质量图像(如VQ-VAE-2)和音乐(如Jukebox)生成中已取得成功,支持多种残差VQ方法、代码簿初始化和正则化,显著提升了量化效果和稳定性。
EET - Transformer模型推理加速引擎
AI模型EETGithubTransformer开源项目性能优化推理
EET是一个专注于Transformer模型的PyTorch推理加速引擎。它支持百川、LLaMA等大规模语言模型,提供int8量化功能,可在单GPU上高效运行超大模型。EET通过CUDA内核优化和量化算法显著提升多模态及NLP任务的推理性能,为Transformers和Fairseq提供开箱即用的加速方案。使用EET只需几行代码即可实现模型的高效部署与推理。
ColossalAI - 提升大型AI模型训练的效率和可访问性
AI加速Colossal-AIGithub人工智能分布式训练大模型并行训练开源项目热门
Colossal-AI致力于使大型AI模型的训练更加经济、快速且易于获取。通过支持多种并行策略,包括数据并行、流水线并行、张量并行和序列并行,Colossal-AI可以大幅提高大规模模型训练的速度。此外,还集成了异构训练和零冗余优化器技术,使得在多GPU集群上的训练过程更加高效和灵活。Colossal-AI通过这些先进的功能,已被广泛应用于生产和研究场景,显著推动了AI技术的进步和应用。
botorch - PyTorch驱动的模块化贝叶斯优化库
BoTorchGithubPyTorch开源项目机器学习概率模型贝叶斯优化
BoTorch是一个基于PyTorch的贝叶斯优化库,提供模块化接口用于组合概率模型、采集函数和优化器。该库充分利用PyTorch的自动微分和并行计算能力,支持基于蒙特卡洛的采集函数,并与GPyTorch深度集成。BoTorch主要面向贝叶斯优化和AI领域的研究人员及专业实践者,为实现和测试新算法提供灵活高效的平台。
pytorch - 能GPU加速的Python深度学习平台
GPU加速PyTorch深度学习神经网络
PyTorch是一个开源的提供强大GPU加速的张量计算和深度神经网络平台,基于动态autograd系统设计。它不仅支持广泛的科学计算需求,易于使用和扩展,还可以与Python的主流科学包如NumPy、SciPy无缝集成,是进行深度学习和AI研究的理想工具。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号