热门
导航
快讯
推荐文章
热门
导航
快讯
推荐文章
#IPEX-LLM
ipex-llm
IPEX-LLM是专为Intel CPU和GPU设计的PyTorch库,能高效运行多种大型语言模型如LLaMA2和Mistral,确保极低延迟。支持最新技术如Microsoft的GraphRAG和多模态模型,及英特尔新型NPU。提供一体化易用性并针对多GPU优化,包括实时演示和详尽的性能基准。
BigDL-2.x
BigDL提供多种库,用于扩展和加速数据分析与AI应用。主要功能包括分布式大数据和AI的Orca,加速TensorFlow和PyTorch的Nano,深度学习的DLlib,时间序列分析的Chronos,推荐系统的Friesian以及安全大数据和AI的PPML。这些功能使AI应用可以从本地计算机无缝扩展到云端,实现高效分布式数据处理和深度学习开发。
ipex-llm-tutorial
IPEX-LLM教程提供了在英特尔XPU上使用低位大语言模型库的全面指导。内容覆盖从环境配置到高级应用开发,包括中文支持、GPU加速和模型微调等主题。本教程适合希望在英特尔硬件上开发和优化大语言模型应用的开发者,帮助他们深入了解IPEX-LLM的功能和实际应用。
相关文章
IPEX-LLM: 加速英特尔CPU和GPU上的大语言模型推理
2 个月前
BigDL 2.0: 从笔记本电脑到分布式集群的无缝AI扩展
2 个月前
IPEX-LLM:英特尔推出的高效大语言模型加速库
2 个月前
ipex-llm入门学习资料汇总 - Intel开发的加速LLM推理和微调的PyTorch库
1 个月前
使用协议
隐私政策
广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI
·
鲁ICP备2024100362号-6
·
鲁公网安备37021002001498号