Project Icon

Qwen2.5-7B-Instruct-GPTQ-Int4

Qwen2.5系列4位量化模型支持长文本处理和多语言功能

Qwen2.5-7B-Instruct-GPTQ-Int4是Qwen2.5系列的4位量化指令微调模型,拥有76亿参数。该模型支持131,072个token的上下文长度和8192个token的生成长度,在知识储备、编程和数学能力方面有显著提升。它还改进了指令遵循、长文本生成和结构化数据理解等功能,支持29种以上语言,适用于多种自然语言处理任务。

Qwen1.5-0.5B - 大规模多语言模型支持32K上下文长度
GithubHuggingfaceQwen1.5上下文长度多语言支持开源项目模型模型规模语言模型
Qwen1.5是Qwen2的测试版,作为一款基于Transformer的解码器语言模型,该项目在大规模数据上进行预训练。模型规模涵盖0.5B至72B的密集模型及14B的MoE模型,共8种规格。Qwen1.5在对话性能、多语言支持方面有显著提升,所有模型均可稳定支持32K上下文长度。技术上采用SwiGLU激活、注意力QKV偏置等,并优化了多语言和代码适配的分词器。
Qwen-7B - 70亿参数规模的多语言开源预训练语言模型
GithubHuggingfaceQwen-7B多语言大语言模型开源项目模型评测预训练
Qwen-7B是一个70亿参数规模的开源预训练语言模型,基于超过2.4万亿tokens的多语言语料训练而成。该模型支持15万规模的多语言词表,在常识推理、代码生成、数学计算、机器翻译等多个评测任务中表现优异。通过采用RoPE位置编码、SwiGLU激活函数等技术,Qwen-7B具备强大的多语言理解和处理能力,同时支持长文本输入和高效推理。
Qwen1.5-1.8B - 多语言大规模语言模型支持32K上下文长度
GithubHuggingfaceQwen1.5人工智能多语言支持大语言模型开源项目模型自然语言处理
Qwen1.5是Qwen2的预览版,基于Transformer架构开发的解码器语言模型。它推出了8种不同规模的模型版本,涵盖0.5B至72B的常规模型和一个14B的MoE模型。相较于前代产品,Qwen1.5在对话系统性能、多语言处理能力和32K长文本理解等方面均有显著改进。技术上,该模型采用了SwiGLU激活函数、注意力机制的QKV偏置和分组查询等创新方法,同时优化了针对多语言和编程代码的分词器。
Qwen1.5-72B-Chat - 支持多语言的720亿参数开源语言模型
GithubHuggingfaceQwen1.5人工智能多语言支持大语言模型开源项目模型自然语言处理
Qwen1.5-72B-Chat作为Qwen2的预发布版本,集成了从5亿到720亿参数的8种规模模型。模型采用Transformer架构和SwiGLU激活函数,支持32K上下文长度和多语言处理。通过Hugging Face框架即可部署使用,同时提供GPTQ、AWQ等多种量化版本,可满足不同场景需求。
Qwen2.5-32B-Instruct-GGUF - 全面汇总32B大语言模型量化版本 多设备支持
GGUFGithubHuggingfaceQwen2.5-32B-Instruct大语言模型开源项目推理优化模型量化
本项目提供Qwen2.5-32B-Instruct模型的多种量化版本,精度从f16到IQ2_XXS,文件大小9GB至65GB不等。量化模型适用于CPU、GPU等设备,可根据硬件配置选择。项目包含详细的模型选择指南和下载说明,便于用户使用这个32B参数的大语言模型。特别推荐Q6_K、Q5_K和Q4_K系列,以及新型IQ系列量化版本。
Qwen2.5-72B-Instruct-GGUF - 大语言模型多种量化版本集合 适配不同硬件配置
GithubHuggingfaceQwen2.5-72Bllama.cpp人工智能模型内存优化开源项目模型模型量化
该项目提供了Qwen2.5-72B-Instruct模型的18种量化版本,文件大小范围为23GB至77GB。使用llama.cpp的最新量化技术,包括K-quants和I-quants系列。所有版本均经imatrix优化,并更新了上下文长度设置和分词器。项目还提供了详细的性能对比和设备兼容性指南,方便用户根据自身硬件配置选择合适版本。这些模型特别适合在LM Studio等推理引擎上运行。
Qwen2.5-7B-Instruct-GGUF - Qwen2.5-7B-Instruct的多样化量化方案增强模型适应性
ARM芯片GithubHuggingfaceQwen2.5-7B-Instruct开源项目性能优化模型训练数据集量化
项目采用llama.cpp的最新量化方案对Qwen2.5-7B-Instruct模型进行优化,提供灵活的量化格式以匹配各类硬件环境。更新的上下文长度管理与先进的分词器,无论选择传统的Q-K量化还是新兴的I-quant,各种档次的文件都能帮助设备实现性能与速度的平衡。尤其是对ARM架构的专门优化,即便在低RAM环境下,用户也能凭借有限的资源获得可行的使用体验。
Qwen2.5-Coder-7B-Instruct-GGUF - 基于Qwen2.5的7B参数代码专用模型支持超长文本输入与代码生成
GGUF格式GithubHuggingfaceQwen2.5-Coder代码生成大语言模型开源项目指令微调模型
Qwen2.5-Coder-7B-Instruct-GGUF是一款开源的代码专用大语言模型,通过5.5万亿token的训练提升了代码生成和推理能力。模型采用transformers架构,参数规模为7.61B,具备32K-128K的长文本处理能力。该模型在保持通用能力的同时优化了编程相关任务,支持GGUF格式并可通过llama.cpp部署,适用于代码智能体等实际应用场景。
Qwen2.5-Coder-7B - 新一代多语言编程模型具备出色的代码生成与长文本处理能力
GithubHuggingfaceQwen2.5-Coder人工智能代码生成开源项目机器学习模型深度学习
Qwen2.5-Coder-7B是一个基于Qwen2.5-7B训练的专业代码开发模型,在代码生成、推理和修复方面表现优异。该模型经过5.5万亿token的训练,支持128K上下文窗口,适用于代码助手和数学推理等场景。采用transformer架构,拥有76亿参数和28层注意力层,支持131,072个token的上下文长度。Qwen2.5-Coder-7B不仅优化了代码生成能力,还保持了数学和通用能力的优势,为代码开发和人工智能应用提供了全面的基础支持。
Qwen2-72B - 新一代开源大语言模型在多个领域表现出色的中立评估
GithubHuggingfaceQwen2-72B多语言能力开源项目文本生成模型评估数据集语言模型
Qwen2系列大语言模型采用改进的Transformer架构,包含多种参数尺寸,加强了在多语言、编程、数学和推理领域的表现。Qwen2-72B模型对比现有开源和专有模型,展示了其在自然语言处理、代码生成和多语言翻译方面的竞争力,支持各类复杂任务的高效执行。了解更多关于模型的功能和实用建议,为语言技术应用提供支持。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

白日梦AI

白日梦AI提供专注于AI视频生成的多样化功能,包括文生视频、动态画面和形象生成等,帮助用户快速上手,创造专业级内容。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

讯飞绘镜

讯飞绘镜是一个支持从创意到完整视频创作的智能平台,用户可以快速生成视频素材并创作独特的音乐视频和故事。平台提供多样化的主题和精选作品,帮助用户探索创意灵感。

Project Cover

讯飞文书

讯飞文书依托讯飞星火大模型,为文书写作者提供从素材筹备到稿件撰写及审稿的全程支持。通过录音智记和以稿写稿等功能,满足事务性工作的高频需求,帮助撰稿人节省精力,提高效率,优化工作与生活。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号