sparseml

神经网络优化工具，简化代码实现高效稀疏模型

SparseML 神经网络模型优化稀疏化推理优化 Github 开源项目

SparseML是开源模型压缩工具包，使用剪枝、量化和蒸馏算法优化推理稀疏模型。可导出到ONNX，并与DeepSparse结合，在CPU上实现GPU级性能。适用于稀疏迁移学习和从零开始的稀疏化，兼容主流NLP和CV模型，如BERT、YOLOv5和ResNet-50，实现推理速度和模型大小的显著优化。

访问官网

Github

Huggingface

介绍相关项目

Efficient-Deep-Learning - 深度神经网络压缩和加速方法综述

Github开源项目权重量化模型加速知识蒸馏神经网络压缩网络剪枝

此项目汇总了深度神经网络压缩和加速的多种方法,涵盖神经架构设计、剪枝、量化、矩阵分解和知识蒸馏等技术。重点介绍了剪枝(含彩票假设)、知识蒸馏和量化等领域的研究进展,并提供了大量相关论文摘要。项目还收录了初始化剪枝和高效视觉Transformer等相关资源,为该领域的研究和开发提供了全面参考。

quickai - 简化复杂机器学习模型的实验过程

GithubPythonQuickAIYOLO卷积神经网络开源项目机器学习

QuickAI 是一个 Python 库，简化了前沿机器学习模型的实验流程。支持 EfficientNet、VGG、ResNet 等图像分类模型和 GPT-NEO、Distill BERT 等自然语言处理模型。只需1-2行代码即可完成模型训练和评估，兼容 TensorFlow 和 PyTorch，并提供 Docker 容器便于环境配置。适用于各水平用户，助力快速推进机器学习项目。

DeepSpeed - 一个深度学习优化库，专为大规模模型训练和推理设计

DeepSpeedGithub分布式训练大规模模型训练开源项目模型压缩模型推理

DeepSpeed 是一个深度学习优化软件套件，专为大规模模型训练和推理设计，能显著优化系统性能和降低成本。它支持亿级至万亿级参数的高效管理，兼容各种计算环境，从资源受限的GPU系统到庞大的GPU集群。此外，DeepSpeed 在模型压缩和推理领域亦取得创新成就，提供极低的延迟和极高的处理速率。

neoml - 跨平台多语言支持的端到端机器学习框架

ABBYYGithubNeoMLONNX开源项目机器学习框架神经网络

NeoML是一个端到端机器学习框架，可用于构建、训练和部署模型，适用于计算机视觉和自然语言处理任务，如图像预处理、分类、OCR和数据提取。支持100多种神经网络层类型和20多种传统机器学习算法，兼容CPU和GPU，并支持ONNX格式。适用的编程语言包括Python、C++、Java和Objective-C，且可运行于Windows、Linux、macOS、iOS和Android平台。

MNN - 高效轻量的深度学习框架，支持多设备推理和训练

GithubMNN开源项目推理引擎深度学习框架轻量级高性能

MNN是一个高效轻量的深度学习框架，支持设备上的推理和训练。已被阿里巴巴30多个应用集成，覆盖直播、短视频、搜索推荐等70多种场景。MNN适用于嵌入式设备，支持TensorFlow、Caffe、ONNX等多种模型格式，并优化了ARM和x64 CPU及多种GPU的计算性能。通过MNN Workbench，用户可以下载预训练模型、进行可视化训练并一键部署到设备上。

Awesome-Deep-Neural-Network-Compression - 深度神经网络压缩技术资源库

GithubNAS剪枝开源项目模型优化深度神经网络压缩知识蒸馏量化

该项目汇集了深度神经网络压缩的综合资源，包括量化、剪枝和蒸馏等技术的论文、总结和代码。涵盖高效模型设计、神经架构搜索等相关主题，并提供按会议和年份分类的论文列表。项目还收录了主流压缩系统和工具链接，为深度学习模型压缩研究提供了全面的参考资料。

Embedded-Neural-Network - 深度神经网络压缩与加速技术综述

Github剪枝开源项目模型量化硬件加速器神经网络压缩稀疏化

Embedded-Neural-Network项目汇集了减小深度神经网络模型大小和加速ASIC/FPGA应用的前沿研究。内容涵盖网络压缩、硬件加速等领域,包括参数共享、知识蒸馏、定点训练、稀疏正则化和剪枝等技术。项目还整理了相关教程和重要会议论文。

llm-compressor - 开源大型语言模型压缩优化库

GithubHugging FaceLLM Compressorvllm开源项目模型优化量化

llm-compressor是一个专注于大型语言模型优化和压缩的开源库。它提供全面的量化算法集，支持权重和激活量化，并与Hugging Face模型和仓库无缝集成。该项目采用safetensors文件格式，确保与vllm兼容，同时通过accelerate支持大规模模型处理。llm-compressor涵盖多种量化格式和算法，包括激活量化、混合精度和稀疏化技术，为模型优化提供灵活多样的选择。

llmc - 开源工具压缩大型语言模型提升效率

GithubLLMCLLM压缩剪枝开源项目性能优化量化

llmc是一个压缩大型语言模型的开源工具,采用先进压缩算法提高效率和减小模型体积。它支持多种LLM和压缩方法,可在单GPU上量化评估大模型,兼容多种推理后端。项目提供LLM量化基准,帮助用户选择合适的压缩策略。

amc - 自动化模型压缩技术提升移动设备AI性能

AutoMLGithubImageNetMobileNet剪枝开源项目模型压缩

AMC (AutoML for Model Compression) 是一种创新的自动化模型压缩方法，专为优化移动设备上的深度学习模型而设计。该方法通过自动搜索剪枝策略、导出压缩权重和微调，成功将MobileNet等模型的计算量减少50%，同时维持或提升准确率。AMC不仅适用于MobileNet-V1和V2，还提供PyTorch和TensorFlow格式的压缩模型，为移动设备上的高效AI应用提供了新的可能性。

相关项目

项目侧边栏1

项目侧边栏2

推荐项目

Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计是一个多功能的在线设计和创意平台，提供广泛的设计工具和资源，以满足不同用户的需求。从专业的图形设计师到普通用户，无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑，稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合，帮助用户轻松实现创意设计。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com

@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号