#MLX

PicoMLXServer: 开启本地运行最快MLX-based LLMs的简易之门

3 个月前
Cover of PicoMLXServer: 开启本地运行最快MLX-based LLMs的简易之门
相关项目
Project Cover

mlx-vlm

MLX-VLM是一款在Mac上运行Vision LLMs的开源软件包,支持通过pip安装。用户可以使用命令行界面(CLI)、Gradio聊天UI或脚本进行模型推理。该软件包支持多个预训练模型,便捷地应用聊天模板并生成输出,是开发人员和研究人员进行视觉问答的实用工具。

Project Cover

PicoMLXServer

Pico MLX Server提供简单易用的图形界面,便于管理MLX AI模型。通过菜单栏可以迅速启动和停止服务器,用户还可以从HuggingFace下载MLX模型,安装Python环境和必要依赖,并在多个端口同时运行多个服务器。此外,Pico MLX Server兼容OpenAI API,支持现有的AI聊天客户端。适用于macOS 14.0及以上版本。

Project Cover

mlx

MLX是一款针对Apple芯片优化的开源机器学习框架。它具有类NumPy的Python接口、可组合的函数转换、惰性计算和动态图构建等特性。通过统一内存模型,MLX支持在CPU和GPU间无缝切换。该框架为机器学习研究者提供了友好高效的开发环境,有助于快速验证创新想法。

Project Cover

mlx-gpt2

本项目展示了使用MLX框架从零实现GPT-2模型的完整过程。内容涵盖数据准备、词汇表创建和模型架构设计等核心步骤。该实现仅依赖MLX和NumPy库,可在MacBook上快速训练出能生成莎士比亚风格文本的模型。项目借鉴了Karpathy的GPT教程思路,并通过MLX框架重新实现,为深度学习爱好者提供了实践指南。

Project Cover

node-mlx

node-mlx是基于MLX的Node.js机器学习框架,支持Apple Silicon GPU加速及x64 Mac和Linux平台。该框架提供丰富的API和示例,涵盖语言模型训练和文本生成等应用。node-mlx通过简化复杂的机器学习任务,使JavaScript开发者能够更便捷地构建和部署AI模型。

Project Cover

chat-with-mlx

chat-with-mlx是一个基于Apple MLX框架的本地AI聊天平台,专为Apple Silicon Mac打造。该平台集成了Llama-3、Phi-3、Yi等多种开源大语言模型,注重用户数据隐私保护。项目特点包括简易安装、便捷使用,支持集成HuggingFace和MLX兼容模型。此外,平台还提供文档和YouTube视频处理功能,是一个全面的MLX语言模型聊天界面。

Project Cover

mlx-examples

MLX-Examples项目提供了MLX框架在文本、图像、音频和多模态等领域的应用示例。包含语言模型、图像生成、语音识别等实现,支持Hugging Face预训练模型。这些示例展示了MLX在Apple Silicon上的应用,为机器学习开发者提供了参考资源。

Project Cover

DiffusionKit

DiffusionKit是一个针对Apple Silicon芯片优化的扩散模型工具包。该项目包含用于将PyTorch模型转换为Core ML格式的Python组件,以及用于设备端推理的Swift组件。通过集成MLX,DiffusionKit实现了高效的图像生成,并为Stable Diffusion 3和FLUX等模型提供了简洁的命令行和API接口。这一工具为在苹果设备上进行AI图像生成研究和应用开发提供了实用解决方案。

Project Cover

mflux

mflux是基于Apple MLX框架的FLUX模型开源实现,为Mac设备优化的AI图像生成工具。它支持本地运行FLUX.1-Schnell模型,可生成1024x1024分辨率图像,无需云服务。项目代码简洁,专注于模型表达,适合学习和开发。未来计划支持更多FLUX模型和功能。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号