#onnx模型

llama.onnx入门指南 - LLaMa/RWKV模型的ONNX转换与量化工具

1 个月前

Cover of llama.onnx入门指南 - LLaMa/RWKV模型的ONNX转换与量化工具

llama.onnx是一个开源项目,提供了将LLaMa和RWKV等大型语言模型转换为ONNX格式的工具,并支持模型量化和推理加速。本文介绍了该项目的主要功能、使用方法和相关资源。

LLaMa RWKV onnx模型量化推理 Github 开源项目

1 个月前

Cover of llama.onnx入门指南 - LLaMa/RWKV模型的ONNX转换与量化工具

LLaMA/RWKV ONNX模型:高效推理与量化的开源实现

2 个月前

Cover of LLaMA/RWKV ONNX模型:高效推理与量化的开源实现

探索LLaMA和RWKV大型语言模型的ONNX格式实现,包括模型导出、量化和推理优化等关键技术,助力在各类设备上高效部署LLM。

LLaMa RWKV onnx模型量化推理 Github 开源项目

2 个月前

Cover of LLaMA/RWKV ONNX模型:高效推理与量化的开源实现

Piper学习资料汇总 - 快速本地神经网络文本转语音系统

1 个月前

Cover of Piper学习资料汇总 - 快速本地神经网络文本转语音系统

Piper是一个快速、本地的神经网络文本转语音系统，为树莓派4优化。本文汇总了Piper的相关学习资源，帮助开发者快速入门和深入学习这个强大的TTS工具。

Piper 语音合成 Raspberry Pi 多语言支持 onnx模型 Github 开源项目

1 个月前

Cover of Piper学习资料汇总 - 快速本地神经网络文本转语音系统

Piper: 快速、本地化的神经网络文本转语音系统

2 个月前

Cover of Piper: 快速、本地化的神经网络文本转语音系统

Piper是一个快速、本地化的神经网络文本转语音系统,专为树莓派4优化,提供高质量语音合成,支持多种语言和声音,适用于各种项目和应用场景。

Piper 语音合成 Raspberry Pi 多语言支持 onnx模型 Github 开源项目

2 个月前

Cover of Piper: 快速、本地化的神经网络文本转语音系统

相关项目

Project Cover

Piper, 一款为树莓派4特化的高速文本到语音(TTS)系统，支持多语言和ONNX运行时框架。用VITS训练的多样化语音模型保证了顶级的输出质量。适用于命令行操作，可用于家庭自动化、教育以及辅助技术等多种应用场景。

Project Cover

此项目提供LLaMa-7B和RWKV-400M的ONNX模型与独立演示，无需torch或transformers，适用于2GB内存设备。项目包括内存池支持、温度与topk logits调整，并提供导出混合精度和TVM转换的详细步骤，适用于嵌入式设备和分布式系统的大语言模型部署和推理。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com

@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号