#onnx模型
piper - 针对树莓派4优化的高效本地文本转语音系统
Piper语音合成Raspberry Pi多语言支持onnx模型Github开源项目
Piper, 一款为树莓派4特化的高速文本到语音(TTS)系统,支持多语言和ONNX运行时框架。用VITS训练的多样化语音模型保证了顶级的输出质量。适用于命令行操作,可用于家庭自动化、教育以及辅助技术等多种应用场景。
llama.onnx - LLaMa和RWKV模型的ONNX实现及独立演示,支持多设备部署
LLaMaRWKVonnx模型量化推理Github开源项目
此项目提供LLaMa-7B和RWKV-400M的ONNX模型与独立演示,无需torch或transformers,适用于2GB内存设备。项目包括内存池支持、温度与topk logits调整,并提供导出混合精度和TVM转换的详细步骤,适用于嵌入式设备和分布式系统的大语言模型部署和推理。
相关文章