Project Icon

MiniLMv2-L6-H384-distilled-from-BERT-Large

微软开发的轻量压缩型自然语言处理模型

MiniLMv2-L6-H384-distilled-from-BERT-Large是微软开发的轻量级自然语言处理模型,通过知识蒸馏技术从BERT-Large模型压缩而来。该模型在保持性能的同时,显著降低了模型体积和计算资源需求,适合在资源受限场景下部署使用。

nlp-recipes - 使用最新深度学习模型加速自然语言处理系统开发
Azure Machine LearningBERTGithubNLPtransformers开源项目深度学习
该资源库提供构建NLP系统的示例和最佳实践,重点关注最新的深度学习方法和常见场景,如文本分类、命名实体识别和文本摘要。支持多语言,特别是利用预训练模型应对不同语言任务。内容基于与客户的合作经验,旨在简化开发过程,帮助数据科学家和工程师快速部署AI解决方案。
Megatron-LM - 优化GPU训练技术 加速大规模Transformer模型
GPU优化GithubMegatron-CoreMegatron-LM分布式训练大语言模型开源项目
Megatron-LM框架利用GPU优化技术实现Transformer模型的大规模训练。其Megatron-Core组件提供模块化API和系统优化,支持自定义模型训练。该项目可进行BERT、GPT、T5等模型预训练,支持数千GPU分布式训练百亿参数级模型,并提供数据预处理、模型评估和下游任务功能。
MiniChain - MiniChain 简化大语言模型编程的轻量级库
GithubMiniChainOpenAIPython开源项目提示链语言模型
MiniChain是一个轻量级的大语言模型编程库,通过简洁的API简化AI开发过程。它支持Python函数注释、链式调用、模板系统和可视化功能,便于实现复杂AI任务。MiniChain兼容OpenAI、Hugging Face和Google Search等多种后端,提供灵活选择。该库可用于实现检索增强QA、记忆型聊天和信息提取等多种AI应用,以简洁代码完成各种流行方法。
Chinese-Tiny-LLM - 中文大语言模型训练流程与高质量语料库开源项目
Chinese-Tiny-LLMGithub中文语料库开源项目自然语言处理语言模型预训练
Chinese-Tiny-LLM项目提供完整的中文网络语料清洗流程和预训练代码,包含MAP-CC(8000亿中文token预训练数据集)、CHC-Bench(中文难例指令理解基准测试)和CT-LLM(2B参数中文中心语言模型)。该项目突破了传统依赖英语语料库的LLM训练方法,为构建更具包容性和适应性的语言模型奠定基础。
AutoCompressors - 创新语言模型技术实现长文本上下文压缩
AutoCompressorGithubLlama上下文压缩开源项目生成式AI语言模型
AutoCompressors是一项创新语言模型技术,可将长文本上下文压缩为少量摘要向量并进行推理。该项目提供官方实现,包含预训练模型、安装指南和示例代码。支持Llama-2和OPT等基础模型,有效提升长文本处理能力,为自然语言处理开辟新途径。
mlc-llm - 通用大语言模型高性能部署引擎
AI模型优化GithubMLC LLMMLCEngine开源项目机器学习编译器高性能部署
MLC LLM是一款用于大语言模型的高性能部署引擎,支持用户在各种平台上开发、优化和部署AI模型。核心组件MLCEngine通过REST服务器、Python、JavaScript、iOS和Android等接口提供OpenAI兼容的API,支持AMD、NVIDIA、Apple和Intel等多种硬件平台。项目持续优化编译器和引擎,与社区共同发展。
llm_distillation_playbook - 大语言模型蒸馏技巧与实践指南
GPT-4GithubLLM开源开源项目模型蒸馏评估标准
LLM Distillation Playbook项目提供了系统化的大语言模型蒸馏实践指南。该项目探讨了模型蒸馏的关键概念、评估标准和实用技巧,涵盖数据准备到模型部署的全流程。它为工程师和ML实践者提供见解,帮助在生产环境中将大型语言模型压缩为高效小型版本。该指南融合学术研究和实践经验,是开源LLM开发的参考资源。
mindnlp - 开源自然语言处理与大语言模型框架
GithubMindNLPMindSpore大语言模型开源项目自然语言处理预训练模型
MindNLP是一个基于MindSpore的开源自然语言处理库,支持语言模型、机器翻译、问答系统、情感分析、序列标注和摘要生成等多种任务。该项目集成了BERT、Roberta、GPT2和T5等多种预训练模型,通过类似Huggingface的API简化了使用流程。用户可通过pypi或源代码安装该库,并支持包括Llama、GLM和RWKV在内的大型语言模型的预训练、微调和推理,非常适合研究者和开发人员构建和训练模型。
MiniGPT-4 - 视觉语言多任务学习的统一接口
GithubMiniGPT-v2图像理解多任务学习大型语言模型开源项目视觉语言模型
MiniGPT-4是一个视觉语言理解项目,整合了Llama 2和Vicuna模型以增强多模态能力。它支持图像描述、视觉问答和多任务学习,能够处理复杂的视觉理解任务。项目的开源性和灵活架构为研究人员和开发者提供了探索视觉语言AI的工具。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号