访问官网
Github
文档
论文Savant项目详细介绍
项目背景
Savant是一个开源的高性能计算机视觉框架，特别为使用Nvidia技术栈的数据中心和边缘设备开发而设计。它的目的是帮助开发实时、多媒体AI应用，并且可以构建动态和容错的推理流水线，利用最佳的Nvidia加速器解决方案。Savant基于DeepStream，提供构建推理流水线的高级抽象层，用户友好，灵活且具扩展性。无论是实时还是高负载的计算机视觉和视频分析应用，Savant都是一个理想的选择。
主要版本
Savant项目版本主要依赖于Nvidia的DeepStream和JetPack版本，目前常用的版本如下：
- 0.2.11 LTS版：适用于生产环境，兼容DeepStream 6.3，广泛支持多种硬件设备，如dGPU和Jetson硬件。
- 0.4.x 当前生产版本：包含新功能，适用于需要0.2.x和0.3.x版本没有功能的用户。
- 0.5.x 开发版本：整合了DeepStream 7.0，适合希望使用最新技术的用户。
适合人群
Savant专为需要实现高性能计算机视觉和视频分析的开发者而打造。借助Savant，开发者可以：
- 在Nvidia设备上实现最大性能，不论在边缘还是中心设备。
- 降低使用DeepStream技术构建动态流水线的时间成本，无需低层次编程。
- 构建易于维护和测试的应用程序，得益于完善的框架API。
- 利用不同模型和数据源创建异构流水线。
- 使用同一代码库构建混合边缘/数据中心应用。
- 利用OpenTelemetry和Prometheus监督和追踪流水线。
- 利用Replay功能实现按需和非线性处理。
运行平台
Savant需要Nvidia硬件支持，目前支持以下设备：
- Jetson Xavier NX/AGX
- Jetson Orin Nano/NX/AGX
- Nvidia Turing, Ampere, Ada, Hopper, Blackwell GPU
功能特点
Savant具有一系列功能，可加速高性能计算机视觉应用的开发：
- 高性能：基于最快的视频分析SDK DeepStream，即使是复杂的分割模型也能实时运行。
- 边缘与数据中心设备通用：可在Nvidia边缘设备和数据中心设备上运行，代码变动少。
- 云就绪：流水线运行在Docker容器中，支持OpenTelemetry和Prometheus监控。
- 低延迟和高容量处理：支持实时执行流水线或高容量模式，以最大化资源利用。
- 强大的API：通过高性能流API，自给自足地与外界通信。
- 高级数据协议：灵活使用视频和元数据传输协议。
- 开放遥测支持：利用OpenTelemetry实现精确仪表流水线。
- Prometheus支持：用于监控流水线性能和资源利用。
留言与讨论
Savant用户可通过Discord与开发团队交流，针对项目的任何问题都可获得帮助。
贡献与合作
我们欢迎任何有意向贡献和学习的新成员加入Savant项目。In-Sight团队是Bitworks Software的一部分，专注于高性能计算机视觉应用的开发，提供从数据标注到模型验证的全流程服务。
联系邮箱：info@bw-sw.com
通过上述内容，可以看到Savant的全面功能和应用场景，使其成为一个理想的框架，满足计算机视觉领域的多种需求。
