#ONNX
onnx
ONNX是一个开放生态系统，提供AI模型的开源格式，支持深度学习和传统机器学习。通过定义可扩展的计算图模型和内置操作符及标准数据类型，ONNX增强了不同框架间的互操作性，加速了从研究到生产的转化。ONNX广泛支持各种工具和硬件，助力AI社区快速创新。了解ONNX的文档、教程和预训练模型，加入社区，共同推动ONNX的发展。
mace
MACE是一款专为Android、iOS、Linux和Windows设备设计的深度学习推理框架，优化了NEON、OpenCL、Hexagon等技术以提升性能。它支持多种模型格式，如TensorFlow、Caffe和ONNX，并提供高级API进行电源管理和UI响应优化。MACE设计注重内存使用、模型保护和平台覆盖，提供丰富的模型格式支持。
cortex
Cortex是一个OpenAI兼容的多引擎AI平台，提供命令行界面和客户端库，支持构建LLM应用。支持的引擎包括GGUF、ONNX和TensorRT-LLM，兼容多种硬件平台。Cortex可作为独立服务器运行或作为库导入，适配MacOS、Windows和Ubuntu操作系统。
CNTK
CNTK，微软的开源深度学习工具包，支持多种模型，包括DNN、CNN和RNN。具备自动微分和GPU并行化等高级功能，简化开发和训练流程，并完美支持ONNX，兼容多种AI框架。
uform
UForm是一个全面的多模态AI库，涵盖了从文本到图像，乃至视频剪辑的生成与理解等多种功能。支持多种语言，包含轻量级生成模型及高效的预训练变压模型，能够广泛应用于从服务器到智能手机等不同设备。主要优势包括快速的搜索性能、简易的模型部署过程及卓越的多语言应用能力，适用于快速嵌入、语义搜索、图像标题生成和视觉问答等多种场景。
silero-models
silero-models展示高质量预训练语音识别与合成模型，提供简化的企业级语音技术解决方案，性能匹敌谷歌STT。模型即用、支持多语言、语音合成自然，将企业和开发者的部署流程简化至极致。
fastembed-rs
FastEmbed-rs为基于Rust的高效文本嵌入工具，无需Tokio依赖，支持同步操作。允许使用Hugging Face等多种模型，并通过并行处理实现高效批量嵌入。支持加载自定义.ONNX模型，提供简洁API以快速实现文本嵌入和重排，适合追求高性能文本处理的开发者。
nncf
Neural Network Compression Framework (NNCF) 提供一套后训练和训练时的优化算法，用于在 OpenVINO 中优化神经网络推理，保证最小的精度损失。NNCF 支持 PyTorch、TensorFlow 和 ONNX 等模型，并提供示例展示不同压缩算法的使用案例。NNCF 还支持自动化模型图转换、分布式训练和多种算法的无缝组合，支持将压缩后的 PyTorch 模型导出为 ONNX 检查点及将 TensorFlow 模型导出为 SavedModel 格式。
TensorRT
NVIDIA TensorRT 开源软件提供插件和 ONNX 解析器的源码，展示 TensorRT 平台功能的示例应用。这些组件是 TensorRT GA 版本的一部分，并包含扩展和修复。用户可以轻松安装 TensorRT Python 包或根据构建指南编译。企业用户可使用 NVIDIA AI Enterprise 套件，并可加入 TensorRT 社区获取最新产品更新和最佳实践。