#mlx-llm

mlx-llm 学习资源汇总 - 在Apple芯片上实时运行大型语言模型的工具库

2 个月前

mlx-llm Large Language Models Apple Silicon HuggingFace Quantization Github 开源项目

2 个月前

MLX-LLM: 在苹果芯片上运行大型语言模型的开源框架

3 个月前

mlx-llm Large Language Models Apple Silicon HuggingFace Quantization Github 开源项目

3 个月前

相关项目

mlx-llm

mlx-llm支持用户在Apple Silicon设备上实时运行高级语言模型（LLMs）的应用和工具。该项目支持多种预训练模型，并提供简便的安装方法。用户可以加载新版预训练权重、进行模型量化及嵌入提取。此外，mlx-llm还覆盖了多种应用场景，包括命令行聊天、LoRA或QLoRA微调及检索增强生成（RAG）等。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com