#模型转换
sk2torch: 将scikit-learn模型转换为PyTorch模块的强大工具
AI Edge Torch: 将PyTorch模型部署到移动设备上的高性能推理框架
LlamaChat
LlamaChat,一个为macOS设计的聊天应用,支持用户在本地与LLaMA、Alpaca和GPT4All模型进行交互。它支持多种模型格式,如PyTorch checkpoints及ggml文件,并具备聊天历史记录及模型调试功能。请注意,LlamaChat不提供模型文件,用户需自行根据相关条款获取。
ivy
Ivy 是一个开源的机器学习框架,支持跨多个框架转换机器学习模型和代码。用户可以通过 Ivy 在任何框架中使用机器学习模型或函数,实现代码的转译和模型的互操作性。无论是 PyTorch, TensorFlow, JAX 还是 NumPy,Ivy 都使得代码转换变得简单高效。适用于各类机器学习项目和开发者。它特别适用于那些需要在不同机器学习框架间迁移或转换代码的场景。
TNN
TNN,腾讯优图实验室开源的神经网络推理框架,提供针对移动设备和X86/NV GPUs的高效性能优化。该框架已被QQ、微视等多款应用使用,并支持各大平台包括TensorFlow、Pytorch、MxNet。
bolt
Bolt是一款轻量级深度学习库,旨在提升模型部署效率。它支持Caffe、ONNX、TFLite和Tensorflow的模型转换,提供从FP32到1-BIT的多种推理精度,并适用于ARM和X86 CPU以及多种GPU。该库在华为多个部门广泛应用,具备高性能、丰富的图优化和高效的线程亲和性设置,提升时序数据处理效率。
amazing-openai-api
Amazing OpenAI API 是一个轻量级的工具,支持将 Azure OpenAI API、YI 34B API 和 Google Gemini Pro 等不同模型的 API 转换为标准的 OpenAI API 格式。用户只需简单配置环境变量或使用 Docker 容器即可快速使用不同平台的 AI 模型,确保 API Key 的安全性,并提供灵活的模型别名映射功能,为开发者提供便捷和高效的解决方案。
onnxmltools
ONNXMLTools可将包括Tensorflow、scikit-learn、Core ML、Spark ML、LightGBM、XGBoost、H2O等在内的多种机器学习模型转换为ONNX格式。它支持通过PyPi或源码安装,依赖ONNX、NumPy和ProtoBuf,适用于Python 3.7及以上版本,提供详尽的转换示例与测试方法。更多信息请参考相关文档与教程。
sklearn-onnx
sklearn-onnx是一个工具,用于将scikit-learn模型转换为ONNX格式,并使用ONNX Runtime进行高性能评估。所有转换器都经过ONNX Runtime测试,用户还能注册外部转换器转换含外部库模型的scikit-learn管道。项目文档包括教程和常见问题解答,帮助用户快速上手。可通过PyPi或源码安装,支持多种操作系统,以提高机器学习模型性能。
Paddle2ONNX
Paddle2ONNX 是一个开源工具,用于将PaddlePaddle模型转换为ONNX格式,使模型能够部署到多种ONNX支持的推理引擎如TensorRT、OpenVINO等。Paddle2ONNX不依赖其他组件,只需通过pip安装即可使用。它提供命令行接口和多种参数选项,支持模型优化与量化,适用于不同的部署需求。了解如何安装、使用及优化Paddle模型到ONNX格式,提升部署效率与性能。
tfjs
TensorFlow.js 是开源的硬件加速JavaScript库,专用于训练和部署机器学习模型。开发者能利用灵活直观的API在浏览器和Node.js环境中创建和运行模型,包括从头开始构建模型、运行现有模型和使用传感器数据重新训练模型。支持多种后端和平台,满足不同项目的需求。