Phi-3.5-MoE-instruct

轻量级高性能多语言开源模型

模型开源项目语言模型 Phi-3.5-MoE Huggingface 长文本处理推理能力 Github 多语言

Phi-3.5-MoE-instruct是一款高性能开源多语言模型。采用混合专家架构,仅用6.6B活跃参数即可实现优异性能。支持128K上下文长度,在推理、数学和代码生成等方面表现出色。模型专注高质量推理数据,经过严格微调和安全增强,适用于商业和研究领域。

文档

pythia-6.9b - 促进大规模语言模型可解释性研究的开源工具

GithubHuggingfacePythia大语言模型开源项目机器学习模型模型训练自然语言处理

Pythia-6.9b是EleutherAI开发的开源大规模语言模型,旨在促进可解释性研究。该模型包含69亿参数,在Pile数据集上训练,提供154个中间检查点,便于研究人员探索模型训练过程。Pythia-6.9b采用Transformer架构,性能与同类模型相当,主要用于学术研究而非直接部署。模型可能存在偏见风险,研究人员可通过Hugging Face Transformers库轻松使用。Pythia-6.9b为语言模型研究提供了理想的实验平台。

Yi-1.5 - Yi模型的升级版，通过500B高质量语料预训练和300万样本微调而来

GithubYi-1.5人工智能大语言模型开源开源项目自然语言处理

Yi-1.5是Yi模型的升级版，通过500B高质量语料预训练和300万样本微调而来。它在编码、数学、推理和指令跟随方面有显著提升，同时保持了优秀的语言理解和阅读能力。该系列提供34B、9B和6B三种规模，支持多种部署方式和fine-tuning。Yi-1.5以Apache 2.0许可开源，为AI领域提供了强大灵活的大语言模型选择。

Qwen2.5-14B-Instruct-GGUF - 提升语言生成能力支持多语言的14B指令微调模型

GithubHuggingfaceQwen2.5多语言支持开源项目指令调整模型语言模型长上下文支持

Qwen2.5-14B-Instruct-GGUF 模型在编码、数学和多语言支持方面表现卓越，能够生成最高达8K tokens的长文本，并支持128K的上下文长度。该模型适用于聊天与角色扮演，优化的指令跟随和结构化输出，覆盖29种语言，多语言能力强劲。为用户提供良好的长文本生成与结构化数据处理体验。

Qwen2-72B-Instruct-GPTQ-Int4 - 提升多语言处理能力，支持超长文本输入

GithubHuggingfaceQwen2-72B-Instruct-GPTQ-Int4多语言功能开源项目模型生成能力语言模型长文本处理

Qwen2-72B-Instruct-GPTQ-Int4基于Transformer架构，支持多语言生成和理解，具备长达131,072个标记的处理能力。多专家模型设计增强了在语言生成、代码编写及数学推理方面的表现。提供详细的模型部署指导，利用YARN技术提升长文本处理性能。量化模型基准测试和速度对比数据可协助开发者优化深度学习应用。更多信息和更新请参阅相关博客及文档。

DiT-MoE - 16亿参数规模的稀疏化扩散Transformer模型

DiT-MoEGithub图像生成开源项目扩散模型深度学习混合专家

DiT-MoE项目采用混合专家模型，将扩散Transformer扩展至16亿参数规模。作为扩散Transformer的稀疏版本，DiT-MoE在保持与密集网络相当性能的同时，实现了高效的推理。项目提供PyTorch实现、预训练权重和训练/采样代码，并包含专家路由分析和Hugging Face检查点。通过混合专家方法，DiT-MoE在模型扩展和推理优化方面展现出显著优势。

OLMo - 开源语言模型加速科学研究

GithubOLMo人工智能开源语言模型开源项目机器学习自然语言处理

OLMo是一个开源语言模型项目，提供多种规模的先进模型，如1B、7B和7B Twin 2T，全部基于Dolma数据集训练。该项目支持模型训练、微调和推理，提供详细配置和检查点以确保研究可重现。OLMo还包含数据检查和评估工具，为语言模型研究提供全面支持，旨在加速这一领域的科学进展。

inferflow - 为大语言模型提供高效灵活的推理解决方案

GithubInferflow大语言模型开源项目推理引擎模型服务量化

Inferflow是一款功能强大的大语言模型推理引擎，支持多种文件格式和网络结构。它采用3.5位量化和混合并行推理等创新技术，提高了推理效率。用户通过修改配置文件即可部署新模型，无需编写代码。Inferflow支持GPU/CPU混合推理，为模型部署提供灵活选择。该项目为研究人员和开发者提供了高效易用的LLM推理工具。

Phi-CAT - 在连续对抗训练中优化Phi-3-mini-4k模型

Continuous Adversarial TrainingGithubHuggingfacePhi-3-mini-4k-instruct大语言模型对抗性训练开源项目机器学习模型

该项目通过Continuous Adversarial Training（CAT）算法，对Phi-3-mini-4k-instruct模型进行优化，增强其对抗性攻击的抵御能力，提升鲁棒性。项目详细信息可在Github查阅，有关研究发表在arXiv。

MoA - 多层LLM集成方法MoA在基准测试中超越GPT-4

AI模型GithubLLMMoA开源模型开源项目自然语言处理

MoA项目开发了一种多层LLM集成方法，在AlpacaEval 2.0评测中得分65.1%，超过GPT-4 Omni的57.5%。项目提供简洁实现代码、交互式演示和评估脚本，便于研究者使用和复现。该方法在多个基准测试中表现优异，为AI系统性能提升提供新思路。

Meta-Llama-3.1-8B-Instruct-quantized.w8a8 - 量化优化的多语言文本生成模型

GithubHuggingfaceMeta-Llama-3vLLM多语言开源项目文本生成模型量化

该模型通过INT8量化优化，实现了GPU内存效率和计算吞吐量的提升，支持多语言文本生成，适用于商业和研究中的辅助聊天任务。在多个基准测试中，该模型实现了超越未量化模型的恢复率，尤其在OpenLLM和HumanEval测试中表现突出。使用GPTQ算法进行量化，有效降低了内存和磁盘的占用。可通过vLLM后端快速部署，并支持OpenAI兼容服务。

推荐项目

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

稿定AI

稿定设计是一个多功能的在线设计和创意平台，提供广泛的设计工具和资源，以满足不同用户的需求。从专业的图形设计师到普通用户，无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑，稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合，帮助用户轻松实现创意设计。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com