Project Icon

quantized-models

提供多源量化模型以提升大语言模型推理效率

quantized-models项目整合了多种来源的量化模型,旨在提高大语言模型的推理效率。模型支持者包括TheBloke、LoneStriker、Meta Llama等,提供gguf、exl2格式的支持。用户可通过transformers库便捷地进行文本生成,这些模型按现状发布,需遵循其各自的许可协议。

llmc - 开源工具压缩大型语言模型提升效率
GithubLLMCLLM压缩剪枝开源项目性能优化量化
llmc是一个压缩大型语言模型的开源工具,采用先进压缩算法提高效率和减小模型体积。它支持多种LLM和压缩方法,可在单GPU上量化评估大模型,兼容多种推理后端。项目提供LLM量化基准,帮助用户选择合适的压缩策略。
ctransformers - Python接口的高效C/C++ Transformer模型
CTransformersGGMLGithubLangChainPythonTransformer模型开源项目
CTransformers提供Python接口,通过GGML库高效加载和运行C/C++实现的Transformer模型。支持多种模型类型,如GPT-2、GPT-J、LLaMA等,并可与Hugging Face和LangChain集成。提供CUDA、ROCm和Metal兼容的GPU加速选项,适合高性能自然语言处理任务。
Chinese-Mixtral - 使用Sparse MoE架构的中文Mixtral模型
Chinese-MixtralGithubMixtral大模型量化开源项目指令精调稀疏混合专家模型
模型基于Mistral.ai的Mixtral模型开发,经过中文增量训练与指令精调,具备处理长文本(原生支持32K上下文,实测可达128K)的能力。包括中文Mixtral基础模型与指令模型,显著提升数学推理和代码生成性能。通过llama.cpp进行量化推理,最低仅需16G内存。开源提供代码、训练脚本与详细教程,支持多种推理和部署工具,适合个人电脑本地快速部署量化模型。
mamba-370m-hf - 兼容transformers库的高效语言模型
GithubHuggingfaceMambafinetuningtransformers开源项目模型生成
项目是一种与transformers库兼容的语言模型,整合了config.json和tokenizer,以提高文本生成的速度和准确性。建议安装transformers的最新主版本,以及causal_conv_1d和mamba-ssm,以充分利用优化的cuda内核。该项目支持经典的generate API和PEFT微调,使用float32格式进行微调可获得最佳性能表现,从而提升文本生成任务的效率和质量。项目形成了一种与transformers库兼容的模型环境,通过优化策略实现高效文本生成。
intel-extension-for-transformers - 提升GenAI与LLM模型性能的先进工具包
GenAIGithubIntel Extension for TransformersLLMTransformer模型开源项目量化推理
Intel® Extension for Transformers是专为提升基于Transformer架构的GenAI/LLM模型而设计的先进工具包。本工具包支持多种平台,如Intel Gaudi2、CPU和GPU,并整合了Hugging Face transformers APIs与Intel® Neural Compressor,提供顺畅的模型压缩过程和多样化的优化选择。此外,工具包含可定制的NeuralChat聊天机器人框架,为用户带来高效的AI交互体验。
Qwen2-72B-Instruct-GPTQ-Int4 - 提升多语言处理能力,支持超长文本输入
GithubHuggingfaceQwen2-72B-Instruct-GPTQ-Int4多语言功能开源项目模型生成能力语言模型长文本处理
Qwen2-72B-Instruct-GPTQ-Int4基于Transformer架构,支持多语言生成和理解,具备长达131,072个标记的处理能力。多专家模型设计增强了在语言生成、代码编写及数学推理方面的表现。提供详细的模型部署指导,利用YARN技术提升长文本处理性能。量化模型基准测试和速度对比数据可协助开发者优化深度学习应用。更多信息和更新请参阅相关博客及文档。
flux.1-lite-8B-alpha-gguf - 量化模型转化与图像生成的精准实现
FreepikGithubHuggingface图像生成开源项目文本到图像模型量化非商业许可
通过GGUF转换,该项目实现了Freepik/flux.1-lite-8B-alpha模型的量化版本。该量化模型适用于ComfyUI-GGUF自定义节点的图像生成及文本转图像任务,同时遵循原始的限制和许可条款。模型文件需要存放在ComfyUI/models/unet路径下,安装说明请参见GitHub页面。该模型的量化转换有助于图像生成的灵活性。
Qwen2-VL-7B-Instruct-GPTQ-Int4 - 量化模型支持多分辨率视觉理解
GithubHuggingfaceQwen2-VL图像理解多模态开源项目模型视觉语言模型视频理解
Qwen2-VL-7B-Instruct-GPTQ-Int4是一款量化视觉语言模型,支持多分辨率图像和20分钟以上视频理解。模型具备复杂推理能力,可应用于移动设备和机器人操作。支持多语言理解,包括欧洲语言、日语和韩语等。采用动态分辨率和多模态旋转位置嵌入技术,在视觉理解基准测试中表现出色。
gemma-2-27b-it-gptq-4bit - Gemma-2-27b的量化模型,优化加载与推理效率
GPTQModelGemma-2GithubHuggingface开源项目模型模型推理自然历史博物馆量化
Gemma-2-27b经过GPTQ 4位量化优化,使其在资源受限环境中高效运行。采用GPTQModel量化,并通过vllm进行推理,适用于简洁高效的推理场景。关键特性包括128组大小、动态分组、对称量化、激活功能和顺序推理,提升模型体验。
model-optimization - TensorFlow 模型优化工具包, 支持量化和稀疏化
GithubKerasTensorFlow Model Optimization Toolkit剪枝开源项目机器学习模型量化
TensorFlow Model Optimization Toolkit 提供稳定的 Python API,帮助用户通过量化和稀疏化技术优化机器学习模型,包括针对 Keras 的专用 API。该工具包还提供详细的安装指南、教程和 API 文档,显著提升模型在部署和执行时的性能。该项目由 TensorFlow 团队维护,并遵循其行为准则,开发者可以通过 GitHub 提交问题和贡献代码。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号