#深度学习框架
Server入门学习资料 - 优化的云和边缘推理解决方案
keras
Keras 3 提供高效的模型开发，支持计算机视觉、自然语言处理等任务。选择最快的后端（如JAX），性能提升高达350%。无缝扩展，从本地到大规模集群，适合企业和初创团队。安装简单，支持GPU，兼容tf.keras代码，避免框架锁定。
MNN
MNN是一个高效轻量的深度学习框架，支持设备上的推理和训练。已被阿里巴巴30多个应用集成，覆盖直播、短视频、搜索推荐等70多种场景。MNN适用于嵌入式设备，支持TensorFlow、Caffe、ONNX等多种模型格式，并优化了ARM和x64 CPU及多种GPU的计算性能。通过MNN Workbench，用户可以下载预训练模型、进行可视化训练并一键部署到设备上。
server
Triton Inference Server是一款开源推理服务软件，支持TensorRT、TensorFlow、PyTorch等多种深度学习和机器学习框架。它优化了云端、数据中心、边缘和嵌入式设备的推理性能，适用于NVIDIA GPU、x86和ARM CPU，以及AWS Inferentia。主要功能包括动态批处理、模型流水线、HTTP/REST和gRPC协议支持等。通过Triton，用户可以轻松部署和优化AI模型，提升推理效率。
caffe2
Caffe2是一个以表达力、速度和模块化为设计理念的轻量级、模块化和可扩展的深度学习框架。欲了解更多信息，请访问caffe2.ai。
oneflow
OneFlow是一款深度学习框架，提供类似PyTorch的API，支持n维并行执行的全局张量以及图编译器用于加速和部署模型。最新版本1.0.0已发布，兼容Linux和多个Python版本。用户可以通过Docker或Pip轻松安装，并利用丰富的文档和模型库快速上手，适合大型变压器模型的并行训练和计算机视觉任务。
MegEngine
MegEngine是一个高效、可扩展且易于使用的深度学习框架，具有统一的训练和推理框架、低硬件要求和跨平台高效推理的三大关键特性。支持x86、Arm、CUDA、RoCM等多种平台，兼容Linux、Windows、iOS、Android等系统。通过DTR算法和Pushdown内存规划器，大幅降低GPU内存使用。适用于模型开发到部署的各个环节，致力于构建开放友好的AI社区。
MONAI
MONAI是一个基于PyTorch的开源平台，专注于医疗影像的深度学习。它提供灵活的数据预处理、易于集成的API、领域特定的网络和评估指标，并支持多GPU和多节点数据并行。MONAI旨在为学术、工业和临床研究者提供优化和标准化的模型创建和评估工具，促进跨领域合作。
hbox
Hbox是一个高效的调度平台，结合了大数据和人工智能技术。支持多种机器学习和深度学习框架，如TensorFlow、MXNet、PyTorch等，并运行在Hadoop Yarn上。平台支持GPU资源调度、Docker容器化和RESTful API接口管理，具备良好的扩展性和兼容性。Hbox还提供统一的数据管理和可视化界面，适用于分布式计算和模型训练。
caffe
Caffe是由伯克利AI研究中心和社区贡献者开发的深度学习框架，强调高效表达、速度和模块化。用户可以通过项目网站获取详细信息，包括DIY深度学习教程、文档、参考模型和社区模型库。Caffe提供多种自定义版本，例如优化CPU和多节点支持的Intel Caffe、适用于AMD和Intel设备的OpenCL Caffe，以及Windows Caffe。社区用户可通过Gitter聊天和Google论坛进行交流，提交问题和建议。项目遵循BSD 2-Clause许可证，鼓励在研究中引用。