热门
导航
快讯
推荐文章
热门
导航
快讯
推荐文章
#TensorRT优化
WhisperFusion - WhisperFusion 低延迟高性能的实时AI语音交互系统
WhisperFusion
实时语音转文字
大语言模型
TensorRT优化
GPU加速
Github
开源项目
WhisperFusion是一个开源项目,结合WhisperLive和WhisperSpeech技术,集成Mistral大语言模型,实现实时语音转文本和智能对话。项目采用TensorRT引擎优化模型性能,使用torch.compile加速处理,在RTX 4090 GPU上实现低延迟对话。通过Docker Compose简化部署,方便开发者快速搭建AI语音交互系统。
1
1
使用协议
隐私政策
广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI
·
鲁ICP备2024100362号-6
·
鲁公网安备37021002001498号