Project Icon

Guanaco-13B-Uncensored-GGUF

新型GGUF格式提高推理性能,兼容多种用户界面

Guanaco 13B Uncensored采用了新的GGUF格式,增强了令牌化和特殊令牌的支持。此格式由llama.cpp团队于2023年推出,替代不再支持的GGML。项目兼容多种客户端和库,如llama.cpp、text-generation-webui及KoboldCpp,适合于多种GPU加速场景。用户可以通过text-generation-webui下载所需模型,或利用huggingface-hub获取特定文件。项目还提供与编程语言如Python的集成方案,支持LangChain等框架。此项目提供多种形式的模型文件及下载途径,适用于多种用户界面和使用场景,为开发者提供了灵活的选择和集成方案。

Llama-3.2-3B-Instruct-uncensored-GGUF - 3B参数指令微调语言模型的高效GGUF量化版本
GGUFGithubHuggingfaceLlama人工智能开源项目模型量化
Llama-3.2-3B-Instruct-uncensored模型的GGUF量化版本,提供从1.6GB到7.3GB不等的多种量化类型。量化后的模型大小显著减小,便于部署使用,同时尽可能保持原模型性能。项目包含详细的量化版本说明、使用指南和常见问题解答,有助于用户选择适合的版本。
Open_Gpt4_8x7B_v0.2-GGUF - 提供多格式兼容量化模型,提升推理效率
GGUFGithubHuggingfaceOpen Gpt4 8X7B V0.2rombo dawg开源项目模型模型兼容性量化
此项目提供GGUF格式的多精度量化模型文件,旨在优化CPU和GPU的推理效率。作为GGML的替代,GGUF与多种第三方UI和库兼容,支持多平台AI模型的高效运行。项目包含2至8位量化模型以满足不同精度与内存要求,适合多种场景需求。通过详细的下载指导,用户能快速找到适合的模型文件,并利用llama.cpp、text-generation-webui等高性能运行时实现模型在不同硬件上的高效推理。
Llama-3-8B-Lexi-Uncensored-GGUF - 基于Llama-3架构的无限制对话语言模型
GithubHuggingfaceLLaMA 3人工智能大语言模型开源模型开源项目无限制模型模型
基于Llama-3-8b-Instruct开发的GGUF格式语言模型,移除了默认的对话限制。模型需要额外添加安全对齐层以确保合规使用。项目采用Meta Llama 3社区许可协议,允许商业用途。
Meta-Llama-3.1-8B-Instruct-GGUF - 高性能量化模型支持多语言文本生成
GGUFGithubHuggingfaceMeta-Llama-3.1多语言大语言模型开源项目文本生成模型
Meta-Llama-3.1-8B-Instruct模型的GGUF格式文件集支持高效推理和多语言文本生成。GGUF是llama.cpp团队推出的新格式,替代了原有的GGML。该模型适用于英语、德语、法语等8种语言的助手式对话和自然语言生成任务。项目还介绍了多种支持GGUF的客户端和库,为用户提供了灵活的使用选择。
Llama-3.2-1B-Instruct-Uncensored-GGUF - Llama小型无审查语言模型的量化实现
GGUFGithubHuggingfaceLlamatransformers开源项目模型语言模型量化模型
这是针对Llama-3.2-1B-Instruct-Uncensored模型的GGUF量化项目,提供从Q2_K到f16在内的多种量化版本。模型文件大小范围在0.7GB至2.6GB之间,通过不同的量化方案平衡了性能与存储空间。项目包含完整的性能对比数据和使用文档,方便开发者根据实际需求选择合适的模型版本。
ggml_llava-v1.5-13b - 面向llama.cpp的LLaVA视觉语言模型推理文件
GithubHuggingfaceggmlllama.cppllava开源项目机器学习模型模型推理
这是一个为llama.cpp提供的GGUF文件集合,专门用于llava-v1.5-13b视觉语言模型的端到端推理,无需额外依赖即可部署。其中mmproj-model-f16.gguf文件结构仍处于实验阶段,需要配合llama.cpp最新代码使用以保证兼容性。
EstopianMaid-13B-GGUF - 量化格式的EstopianMaid-13B模型,兼容多平台与多UI
Apache 2.0EstopianMaid 13BGPU加速GithubHuggingfaceLlama开源项目模型量化
EstopianMaid 13B的GGUF格式文件由llama.cpp团队推出取代GGML。项目涵盖多种量化与文件规格,兼容包括llama.cpp在内的多种平台和UI。详细的下载指导帮助用户选择最佳配置,支持GPU和CPU推理,适用于多种文本生成场景。
Llama-3-8B-Instruct-DPO-v0.2-GGUF - Llama-3-8B的GGUF格式量化模型
GGUFGithubHuggingfaceLlama-3大型语言模型开源项目文本生成模型量化
Llama-3-8B-Instruct-DPO-v0.2模型的GGUF格式量化版本,提供2-bit至8-bit多级量化选项。该版本显著减小模型体积和内存需求,同时维持性能。采用ChatML提示模板,兼容多种GGUF格式支持工具,如llama.cpp和LM Studio。此轻量化版本使大型语言模型能在更多设备上本地运行,扩展了应用范围。
Llama-3.2-3B-Instruct-uncensored-i1-GGUF - 多种量化选项助力模型性能与效率优化
GithubHugging FaceHuggingfaceLlama-3.2-3B-Instruct-uncensored使用指南开源项目机器学习模型模型量化
项目提供多种量化选项,包括i1-IQ1_S到i1-Q6_K不同规格的GGUF文件,满足研究和开发中的多样化需求。用户可参考TheBloke的指南了解使用方法,实现实际应用中的性能和效率优化,同时保持模型输出质量与资源利用的平衡。
claude2-alpaca-13B-GGUF - 量化GGUF格式模型文件的功能概述与应用方法
Claude2 Alpaca 13BGGUF格式GPU加速GithubHuggingface开源项目模型模型兼容性量化方法
Claude2 Alpaca 13B项目提供了多种量化的GGUF格式模型文件,用于实现硬件高效支持下的模型推理。项目由UMD的Tianyi Lab创建,并由TheBloke量化,提供多种参数选项以满足不同的推理需求。该模型兼容llama.cpp等第三方UI和库,广泛支持GPU加速,并涵盖下载范围从最小到超大内存需求的GGUF模型,适合多种使用场景。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号