热门
导航
快讯
推荐文章
热门
导航
快讯
推荐文章
#LLM运行库
ipex-llm
IPEX-LLM是专为Intel CPU和GPU设计的PyTorch库,能高效运行多种大型语言模型如LLaMA2和Mistral,确保极低延迟。支持最新技术如Microsoft的GraphRAG和多模态模型,及英特尔新型NPU。提供一体化易用性并针对多GPU优化,包括实时演示和详尽的性能基准。
相关文章
IPEX-LLM: 加速英特尔CPU和GPU上的大语言模型推理
2 个月前
ipex-llm入门学习资料汇总 - Intel开发的加速LLM推理和微调的PyTorch库
1 个月前
使用协议
隐私政策
广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI
·
鲁ICP备2024100362号-6
·
鲁公网安备37021002001498号