#MLC
mlc-en - 开源机器学习编译器构建工具
MLC机器学习编译器安装构建字体Github开源项目
MLC(Machine Learning Compiler)是一个开源的机器学习编译器构建工具。它提供了完整的安装指南和构建流程,支持生成HTML和PDF格式文档。MLC使用Conda管理环境,集成d2l-book简化文档构建,并包含详细的字体安装说明。该项目适合研究人员和开发者学习和实践机器学习编译器开发。
Llama-3.2-1B-Instruct-q4f32_1-MLC - 基于MLC格式的Llama指令微调对话模型支持多平台轻量级部署
语言模型Llama人工智能Github开源框架模型MLCHuggingface开源项目
基于Meta Llama-3.2-1B-Instruct转换的MLC格式模型,采用q4f32_1量化方案,针对MLC-LLM和WebLLM项目进行优化。模型提供命令行交互、REST服务部署和Python API调用功能,可灵活应用于各类场景。具备快速部署和高效对话能力,适合构建轻量级AI对话应用。
Llama-2-7b-chat-hf-q4f32_1-MLC - 基于Llama-2的MLC格式聊天模型
模型部署聊天机器人MLCLlama-2开源项目API开发模型HuggingfaceGithub
这是一个基于Llama-2-7b-chat-hf的MLC格式q4f32_1模型,支持MLC-LLM和WebLLM项目。模型提供命令行聊天、REST服务器和Python API三种调用方式,可用于开发聊天应用及系统集成。