Project Icon

byteir

端到端模型编译解决方案,支持多种MLIR方言和ASIC优化

ByteIR是ByteDance推出的端到端模型编译解决方案,包括编译器、运行时和前端组件。该项目采用多种上游MLIR方言和Google Mhlo,提供兼容的编译过程,允许灵活混用ByteIR与上游MLIR的passes。ByteIR支持Tensorflow、PyTorch、ONNX等前端,能将SOTA模型转化为Stablehlo。目前处于早期阶段,目标是为深度学习加速器及通用CPU和GPU提供必要的模块和基础设施。

iree - 一款基于MLIR的端到端编译器和运行时系统
GithubIREEMLIR开源项目机器学习编译器运行时
IREE是一款基于MLIR的端到端编译器和运行时系统,它能够将机器学习模型转化为统一的中间表示(IR),适用于数据中心和边缘设备。该项目仍在早期开发阶段,欢迎反馈意见。
clangir - 融合Clang与优化IR的编译器基础设施
CIRClangIRGithub开源项目编程工具编译器基础设施软件开发
ClangIR是一个开源的C++编译器基础设施项目,结合了Clang前端和优化的中间表示(IR)设计。该项目致力于提高代码分析和转换效率,适用于编译器开发和性能优化领域。ClangIR的灵活架构支持高效的代码处理流程,为开发者提供了强大的工具。详细信息、构建指南和文档可在clangir.org获取。
mir - 多平台轻量级JIT编译器框架
GithubJIT编译器MIR中间表示代码优化开源项目编译器项目
MIR是一个轻量级JIT编译器框架,为快速高效的即时编译器实现提供基础。支持x86_64、ARM64、POWER等多种架构,采用强类型中间表示。MIR提供API用于创建模块、函数和指令,支持二进制和文本格式代码处理。编译器使用简化优化流程,包括函数内联和全局公共子表达式消除等,在编译速度和代码性能间取得平衡。MIR适用于需要快速、轻量级JIT编译的项目开发。
mlir-aie - MLIR驱动的AI引擎工具链 助力AI设备性能优化
AI EngineAMDGithubMLIRRyzen AIVersal开源项目
mlir-aie是一个基于MLIR的开源工具链,专为AMD Ryzen™ AI和Versal™等AI引擎设备设计。它通过多层抽象的MLIR表示,实现AI引擎核心编程、数据移动和阵列连接描述。项目提供Python API接口,支持后端代码生成,并集成AMD Vitis™软件中的AI引擎编译器。作为面向工具开发者的项目,mlir-aie提供AIE设备的低级访问,促进多样化编程模型的开发。
ByteTransformer - 为BERT类Transformer优化的高性能推理库
BERTByteTransformerGithubNVIDIA GPUTransformer开源项目高性能
ByteTransformer是一个为BERT类Transformer优化的高性能推理库,支持Python和C++ API,兼容固定长度和可变长度Transformer。通过对BERT例程中的QKV编码、软最大值、前馈网络、激活、层归一化和多头注意力机制进行优化,ByteTransformer为字节跳动的内部推理系统提升了性能。基准测试结果显示,相较于PyTorch、TensorFlow、FasterTransformer和DeepSpeed,ByteTransformer在A100 GPU上的推理速度更快。
BladeDISC - 用于机器学习工作负载的动态形态编译器
BladeDISCGithubMLIRPAI-BladePyTorchTensorFlow开源项目
BladeDISC是一款用于机器学习工作负载的动态形态编译器,支持TensorFlow和PyTorch在GPGPU和CPU上的性能优化。它的架构支持动态形态工作负载,并在静态和动态形态场景中表现出色。BladeDISC提供灵活的部署解决方案,包括插件模式和独立模式。该项目基于MLIR构建,并与mlir-hlo项目密切合作。访问官方网站获取更多信息和文档资料。
onnx-mlir - 基于LLVM/MLIR的高性能神经网络编译器
GithubLLVMONNXONNX-MLIR人工智能开源项目编译器
ONNX-MLIR是一个开源编译器项目,旨在将ONNX神经网络模型转换为高效的可执行代码。该项目基于LLVM/MLIR技术,实现了ONNX标准,并提供ONNX方言、编译器接口、驱动程序和多语言运行时环境。ONNX-MLIR支持Linux、macOS和Windows等多个平台,并提供Docker镜像以简化开发和部署流程。通过优化ONNX图,ONNX-MLIR能够生成性能卓越的神经网络实现。
torch-mlir - 为PyTorch生态系统提供高级编译器支持,并实现与MLIR生态系统的高效集成
GithubLLVMMLIRPyTorchTorch-MLIRTorchScript开源项目
Torch-MLIR项目为PyTorch生态系统提供高级编译器支持,并实现与MLIR生态系统的高效集成。通过多种路径,该项目能够将PyTorch模型转换成Torch MLIR方言,简化硬件供应商的开发过程。此外,还提供了预构建快照,便于安装和使用,并通过示例指导用户完成模型转换和结果运行。该项目是LLVM孵化器的一部分,正在持续发展,且拥有广泛的社区支持和交流渠道。
beaver - 基于Elixir的MLIR开发工具集
ElixirGithubIR生成MLIR开源项目模式匹配编译器
Beaver是一个基于Elixir的MLIR开发工具集,旨在简化开发流程。它充分利用Elixir的SSA、模式匹配和管道操作符等特性,为MLIR提供直观可扩展的接口。Beaver支持快速的开发迭代,并致力于实现Elixir到原生/WASM/GPU的编译。此外,该项目还探索了在硬件加速环境下重新审视符号AI,为机器学习领域引入了新的技术栈。
circt - 硬件设计领域的开源编译器基础设施
CIRCTEDAGithubLLVMMLIR开源项目硬件设计
CIRCT项目旨在将MLIR和LLVM开发方法应用于硬件设计工具领域。它提供一致的、模块化的基础设施,支持多种中间表示,以解决现有EDA工具的局限性。CIRCT鼓励社区通过Discourse论坛、周会和代码贡献参与项目,共同推进开放硬件工具的发展。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号