tract: Sonos 的开源神经网络推理引擎

Ray

tract: 高效灵活的神经网络推理引擎

在当今人工智能快速发展的时代,神经网络模型在各个领域得到了广泛应用。然而,如何在不同的硬件平台上高效地部署和运行这些模型,仍然是一个具有挑战性的问题。为了解决这一难题,Sonos 公司开发了 tract - 一个开源的神经网络推理引擎,旨在提供高效、灵活且易于使用的深度学习模型部署解决方案。

tract logo

tract 的核心特性

tract 是一个用 Rust 语言编写的神经网络推理工具包,具有以下几个突出特点:

  1. 多格式支持:tract 可以读取并执行 ONNX(开放神经网络交换)和 NNEF(神经网络交换格式)格式的模型。这两种格式是目前业界广泛使用的标准,使得 tract 能够兼容多种深度学习框架训练出的模型。

  2. 优化能力:tract 不仅可以加载模型,还能对模型进行优化,以提高其在目标硬件上的运行效率。

  3. 跨平台性能:tract 设计之初就考虑到了在各种硬件平台上的性能表现,从嵌入式设备到高性能服务器,都能发挥出色的推理速度。

  4. 轻量级设计:tract 采用"小而美"的设计理念,核心库非常精简,没有繁琐的依赖,这使得它特别适合在资源受限的环境中使用。

  5. 扩展性:通过 tract-OPL(tract 操作符语言),tract 可以扩展支持更多的自定义操作符,满足特定应用场景的需求。

支持的模型和操作符

tract 在 ONNX 模型支持方面表现出色,目前已经通过了约 85% 的 ONNX 后端测试。所有 ONNX 测试套件中的"真实世界"集成测试都已通过,包括 bvlc_alexnet、densenet121、inception_v1、inception_v2、resnet50、shufflenet、squeezenet、vgg19 和 zfnet512 等知名模型。

在操作符支持方面,tract 实现并测试了大量常用的神经网络操作符,涵盖了从基础数学运算到复杂的卷积和循环神经网络操作。以下是一些重要的支持操作符:

  • 基础运算:Add、Mul、Div、Sub、Pow 等
  • 激活函数:Relu、Sigmoid、Tanh、Softmax 等
  • 卷积相关:Conv、ConvTranspose、DepthToSpace 等
  • 池化操作:MaxPool、AveragePool、GlobalAveragePool 等
  • 归一化:BatchNormalization、InstanceNormalization、LRN 等
  • 循环神经网络:LSTM、GRU、RNN 等
  • 张量操作:Reshape、Transpose、Concat、Split 等
  • 数学函数:Log、Exp、Sqrt、Sin、Cos 等

tract 支持从 ONNX 1.4.1(算子集 9)到 ONNX 1.13.0(算子集 18)的各个版本,这确保了它能够处理大多数现代深度学习模型。

tract 在实际应用中的表现

为了展示 tract 的实际性能,我们来看几个具体的应用案例:

1. 关键词检测在 Arm Cortex-M 微控制器上的应用

ARM 公司为展示 Cortex-M 系列的能力,提供了关键词检测的教程和预训练模型。虽然这些模型最终是为微控制器设计的,但 tract 也能够运行这些中间的 TensorFlow 模型。在 Raspberry Pi Zero 上,"CNN M" 模型的运行时间约为 70 微秒,而在 Raspberry Pi 3 上则只需 11 微秒。这展示了 tract 在低功耗设备上的出色性能。

2. Snips 唤醒词模型

Snips 公司使用 tract 来运行他们的唤醒词检测器。早期的基于分类的模型就能很好地运行,而 tract 的脉冲处理能力更是使得 WaveNet 模型能够在 Raspberry Pi Zero 上高效运行。这证明了 tract 在音频处理和语音识别领域的应用潜力。

3. Inception v3 模型性能对比

下表展示了 tract 在不同设备上运行 Inception v3 模型的性能,与 TensorFlow-lite 进行了对比:

设备架构TensorFlow-litetract
Raspberry Pi ZeroArmv6 VFP113秒39秒
Raspberry Pi 2Armv7 NEON25秒7秒
Raspberry Pi 3aarch32 NEON5秒5秒

这些数据清楚地表明,在多种嵌入式设备上,tract 的性能都优于或至少不弱于 TensorFlow-lite。特别是在较低端的设备上,tract 表现出明显的优势。

tract 的未来发展

尽管 tract 已经展现出了强大的能力,但其开发团队并未止步于此。他们正在持续改进和扩展 tract 的功能:

  1. 持续优化性能:通过改进算法和利用硬件特性,进一步提高推理速度。
  2. 扩大操作符支持:不断增加对新操作符的支持,以适应更多类型的神经网络模型。
  3. 改进 NNEF 和 tract-OPL:完善 NNEF 支持,并通过 tract-OPL 扩展来填补 ONNX 和 NNEF 之间的差距。
  4. 增强跨平台兼容性:确保 tract 能在更多种类的硬件和操作系统上高效运行。
  5. 提供更多示例和文档:帮助开发者更容易地集成和使用 tract。

结语

tract 作为一个开源的神经网络推理引擎,展现出了卓越的性能和灵活性。它不仅支持主流的模型格式,还能在各种硬件平台上高效运行,从嵌入式设备到高性能服务器都能胜任。对于那些需要在资源受限环境中部署深度学习模型的开发者来说,tract 无疑是一个值得考虑的选择。

随着人工智能技术的不断发展,像 tract 这样的工具将在推动 AI 应用普及方面发挥越来越重要的作用。我们期待看到 tract 在未来带来更多创新,为更广泛的 AI 应用场景提供强大支持。

如果您对 tract 感兴趣,可以访问其 GitHub 仓库 了解更多信息,或者参与到这个开源项目的开发中来。让我们共同推动神经网络推理技术的进步,为 AI 的未来贡献一份力量!

avatar
0
0
0
最新项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号