热门
导航
快讯
推荐文章
热门
导航
快讯
推荐文章
#机器学习编译器
mlc-llm
MLC LLM是一款用于大语言模型的高性能部署引擎,支持用户在各种平台上开发、优化和部署AI模型。核心组件MLCEngine通过REST服务器、Python、JavaScript、iOS和Android等接口提供OpenAI兼容的API,支持AMD、NVIDIA、Apple和Intel等多种硬件平台。项目持续优化编译器和引擎,与社区共同发展。
awesome-tensor-compilers
本页面汇集了关于张量计算与深度学习的优质开源编译器项目和研究论文,包括编译器与中间表示(IR)设计、自动调优与自动调度、CPU和GPU优化、NPU优化、图级优化、动态模型、图神经网络、分布式计算、量化方法、稀疏计算、程序改写以及验证与测试等领域的内容。页面还提供相关教程资源,帮助开发者和研究人员优化机器学习和深度学习的编译性能。
glow
Glow是一个开源的机器学习编译器和执行引擎,专为硬件加速器设计。它采用三级IR架构,支持神经网络图的高级优化和代码生成。Glow可作为多种机器学习框架的后端,具有降级功能,能够支持广泛的输入算子和硬件目标。该项目目前正在积极开发中。
mlc-en
MLC(Machine Learning Compiler)是一个开源的机器学习编译器构建工具。它提供了完整的安装指南和构建流程,支持生成HTML和PDF格式文档。MLC使用Conda管理环境,集成d2l-book简化文档构建,并包含详细的字体安装说明。该项目适合研究人员和开发者学习和实践机器学习编译器开发。
相关文章
深度学习编译器的革命: awesome-tensor-compilers项目解析
2 个月前
深入解析MLC-En: 机器学习编译器的革新之作
2 个月前
MLC-LLM学习资料汇总 - 通用LLM部署引擎与机器学习编译
1 个月前
使用协议
隐私政策
广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI
·
鲁ICP备2024100362号-6
·
鲁公网安备37021002001498号