热门
导航
快讯
推荐文章
热门
导航
快讯
推荐文章
#ChatGPT兼容
ai00_server - 基于RWKV模型的高效且易用的推理API服务器
AI00 RWKV Server
Vulkan加速
ChatGPT兼容
开源
LLM推理
Github
开源项目
AI00 RWKV Server是一款高效且易用的推理API服务器,基于RWKV模型,支持Vulkan兼容的所有GPU进行加速,包括AMD显卡和集成图形。无需依赖庞大的pytorch或CUDA环境,开箱即用,并兼容OpenAI的ChatGPT API接口。此服务器完全开源和商用友好,适用于文本生成、翻译、问答等多种任务,是开发大语言模型应用的理想选择。
1
1
相关文章
AI00 Server: 开源高性能本地化AI服务器
3 个月前
AI00 RWKV Server:一个强大而灵活的本地化AI服务器
3 个月前
使用协议
隐私政策
广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI
·
鲁ICP备2024100362号-6
·
鲁公网安备37021002001498号