Project Icon

Phi-3.5-MoE-instruct

轻量级高性能多语言开源模型

Phi-3.5-MoE-instruct是一款高性能开源多语言模型。采用混合专家架构,仅用6.6B活跃参数即可实现优异性能。支持128K上下文长度,在推理、数学和代码生成等方面表现出色。模型专注高质量推理数据,经过严格微调和安全增强,适用于商业和研究领域。

Phi-3-mini-4k-instruct - 高效节省内存的模型微调策略,快速实现量化优化
GithubHuggingfacePhi-3免费微调内存优化开源项目机器学习模型量化模型
此项目通过Unsloth量化技术,提供高效的Mistral平台大模型微调方案,速度提升至2-5倍,内存占用降低至50-70%。提供的Colab笔记本支持Phi-3、Llama 3、Gemma 2等多种模型,简单易用,适合初学者。用户可以节省计算资源,并将微调后的模型导出至GGUF或上传至Hugging Face,方便成果共享。
PowerMoE-3b - 创新型AI模型提升文本生成精准度
GithubHuggingfacePowerMoE-3Btransformers开源项目文本生成模型稀疏组合专家
PowerMoE-3B是一种稀疏Mixture-of-Experts语言模型,优化于多任务文本生成精度。模型利用Power学习率调度器,每个token激活800M参数,在自然语言、多重选择、代码生成和数学推理任务上表现出色。适用于不同数据集的混合训练,提供高效的文本生成方案。
EuroLLM-1.7B-Instruct - 支持35种语言的欧洲开源大语言模型
EuroLLMGithubHuggingface多语言模型开源项目机器翻译模型神经网络自然语言处理
EuroLLM-1.7B-Instruct是一个欧盟支持开发的大语言模型,具备17亿参数规模,可处理包括欧盟在内的35种语言。模型在机器翻译性能方面超越同规模的Gemma-2B模型,接近更大规模的Gemma-7B水平。采用transformer架构和分组查询机制,实现高效推理。这是欧盟首个面向多语言处理的开源语言模型项目。
Phi2-mini-Chinese - 从零开始训练0.2B参数的中文语言模型,支持Flash Attention加速
GithubPhi2-Chinese-0.2BSFT微调中文小模型开源项目数据清洗语言模型
项目包含从数据清洗、tokenizer训练、CLM预训练、SFT微调到RLHF优化的详细步骤,代码和模型已开源,可引用。支持Flash Attention加速,适用于大数据集处理。更多信息及模型权重在huggingface仓库。
Qwen2-1.5B-Instruct - 性能卓越的开源指令调优语言模型
GithubHuggingfaceQwen2人工智能大语言模型开源项目机器学习模型自然语言处理
Qwen2-1.5B-Instruct是Qwen2系列中的指令调优语言模型,在语言理解、生成、多语言处理、编码和数学推理等方面表现优异。该模型基于改进的Transformer架构,通过大规模预训练和偏好优化,在多项基准测试中超越了大多数开源模型。Qwen2-1.5B-Instruct易于部署,适用于多种AI应用场景,能够高效处理复杂的语言任务。
Phi-3.1-mini-128k-instruct-GGUF - 量化指导优化内存资源使用
GithubHuggingfacePhi-3-mini-128k-instruct下载文件开源项目模型模型选择量化高质量
项目利用llama.cpp和imatrix技术对模型进行量化,提供适合不同内存需求的文件。用户可通过huggingface-cli根据硬件选择量化格式,实现速度与质量平衡。同时,项目提供特性图表以指引用户选择‘I-quant’或‘K-quant’方法,满足不同硬件环境性能要求。
tiny-random-Phi3ForCausalLM - 轻量级Phi3因果语言模型实现
GithubHuggingfacePhi3ForCausalLMtransformers开源项目机器学习模型模型卡片自然语言处理
这是一个基于微软Phi-3-mini-4k-instruct模型构建的轻量级Phi3因果语言模型。模型采用Transformers库实现,配置为32个隐藏单元、64个中间单元、4个注意力头和2个隐藏层。该项目旨在提供Phi3模型的精简版本,在保留核心功能的同时显著减小模型规模。这使其特别适用于资源受限环境或快速原型开发,同时仍可应用于多种自然语言处理任务。
Phi-3-mini-4k-instruct-bnb-4bit - 通过Unsloth工具提升深度学习模型微调速度与内存效率
GithubGoogle ColabHuggingfaceUnslothtransformers开源项目机器学习模型模型微调
项目通过提供免费、易于使用的Google Colab笔记本,便于在微调Phi-3.5、Llama 3.1、Mistral等深度学习模型时实现更高效的速度与内存管理,内存使用减少达74%。用户只需添加数据集并执行所有代码,便可获得加速至最高3.9倍的微调模型,支持导出多种格式或上传至Hugging Face平台。Colab快捷方式有效简化模型微调过程,适用于文本生成和对话模板。
Qwen2.5-3B-Instruct - 高性能多语言AI模型支持长文本处理
GithubHuggingfaceQwen2.5人工智能多语言支持大语言模型开源项目模型自然语言处理
Qwen2.5-3B-Instruct是Qwen2.5系列中的指令微调模型,拥有30亿参数。该模型在知识储备、编程和数学能力方面有显著提升,支持29种以上语言,能处理128K tokens的输入并生成8K tokens的输出。模型在指令遵循、长文本生成、结构化数据理解和JSON生成等方面表现优异,并能适应多样化的系统提示。采用因果语言模型架构,结合RoPE、SwiGLU等技术,提供高效的自然语言处理能力。
phi-1 - 用于Python代码生成的1.3亿参数Transformer
GithubHuggingfacePhi-1Python编程代码生成安全风险开源项目模型模型限制
Phi-1是一个专注于Python代码生成的1.3亿参数Transformer模型,利用多种数据集进行训练。在基本Python编码基准测试中,Phi-1的准确率超过50%。这个模型适用于生成代码,但用户需警惕其安全性问题,不适用于生产环境。Phi-1已在transformers版本4.37.0及以上版本中集成。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号