Project Icon

m2

子二次GEMM架构Monarch Mixer实现高效语言模型

Monarch Mixer是一种创新的子二次GEMM架构,用于训练序列长度和模型维度均为子二次的语言模型。该架构使用Monarch矩阵层替代Transformer中的注意力和MLP操作,提高了计算效率。基于此架构的M2-BERT模型在减少25%参数和计算量的同时,在GLUE基准测试中达到了与BERT相当的性能。项目开源了预训练模型权重以及预训练和微调代码,方便研究者进行further研究。

deepseek-moe-16b-base - 采用稀疏混合专家架构的开源大语言模型
DeepSeek MoEGithubHuggingface人工智能代码生成开源项目机器学习模型模型训练
DeepSeek MoE 16B Base是一个基于稀疏混合专家(MoE)架构的开源大语言模型,支持商业应用。模型使用bfloat16格式,可通过Transformers库调用,擅长文本生成和补全。它采用查询-键值对映射的注意力机制,高效处理自然语言处理任务。该项目遵循MIT许可,提供详细文档和示例代码,便于开发者集成使用。
transformer-models - MATLAB深度学习变换器模型实现库
BERTGithubMATLABTransformer开源项目深度学习自然语言处理
该项目提供MATLAB环境下的多种深度学习变换器模型实现,包括BERT、FinBERT和GPT-2。支持文本分类、情感分析、掩码标记预测和文本摘要等自然语言处理任务。项目特点包括预训练模型加载、模型微调、详细示例和灵活API,可用于研究和实际应用。
matmulfreellm - 高效的无矩阵乘法语言模型,完全兼容Transformers库
GithubMatMul-Free LMTransformer++开源项目深度学习矩阵乘法语言模型
MatMul-Free LM是一种无需矩阵乘法操作的高效语言模型架构,兼容🤗 Transformers库,支持370M至2.7B参数的模型。该模型使用高效的三值权重,在计算效率和性能提升方面表现优异。安装需求包括PyTorch、Triton和einops。用户可以轻松初始化模型,并使用预训练模型进行文本生成,适用于各种高效语言建模应用场景。
gemma-2b-bnb-4bit - 提高模型微调速度和内存效率,支持多模型免费训练
GemmaGithubHuggingfaceLlamaMistralUnsloth开源项目模型模型微调
该项目提供了一套适用于Unsloth的Google Colab免费笔记本,通过优化微调,提升Gemma、Mistral和Llama等模型的执行速度至2至5倍,且减少内存使用达70%。用户只需添加数据集并运行,即可快速获得微调模型,还可导出为多种格式或上传至Hugging Face。项目特点包括对初学者的友好性和对多模型的支持,成为高效深度学习的重要工具。
MiniCPM-V-2_6-GGUF - 使用imatrix量化优化模型性能
GithubHuggingfaceMiniCPM-V-2_6transformers多语言开源项目模型视觉处理量化
项目应用llama.cpp的imatrix量化方法,优化模型的文本性能。提供多种量化文件,适配不同硬件配置,尤其适合低RAM环境。这一技术允许根据系统RAM和GPU VRAM选择合适的模型,实现性能与速度的平衡。支持多模态图像-文本转换和多语言处理,可在LM Studio中运行,为开源社区提供多样化的工具和使用选择。
MAmmoTH2-7B-Plus - 增强大型语言模型推理能力的创新研究
GithubHuggingfaceMAmmoTH2大语言模型开源项目指令微调数学推理模型
MAmmoTH2项目通过创新的指令微调技术,提升大型语言模型在推理基准上的显著表现。该项目高效采集了来自预训练网络语料的1000万条指令-响应对,成功开发出无需特定领域数据且在MATH与GSM8K基准上表现优异的模型。MAmmoTH2-Plus进一步基于公共数据进行训练,在推理与聊天机器人领域设定了新标准。本项目展示了一种获取大规模优质指令数据的高性价比方法,提供了增强大型语言模型推理能力的全新视角。
ChatGLM2-6B - 基于GLM技术开发的中英双语对话模型
ChatGLM2-6BGithub开源项目性能提升推理速度显存占用模型开源
ChatGLM2-6B,基于GLM技术开发的中英双语对话模型,1.4T中英数据预训练后展现出改善的多语言处理效果,支持长达32K的上下文长度,新技术支持更快的推理速度和更好的对话体验。适用于学术研究和商业应用,如聊天机器人和客服AI,提供技术支持与灵活部署方案。
internlm2-chat-7b - 70亿参数大模型实现20万字超长文本理解及多场景智能对话
GithubHuggingfaceInternLM2人工智能代码解释器大语言模型开源项目模型超长上下文
InternLM2-chat-7b作为书生·浦语第二代大模型的70亿参数版本,搭载20万字超长上下文理解技术,在复杂推理、数学运算、代码编程等核心任务上性能卓越。模型集成代码解释器和数据分析工具,通过增强型工具调用机制高效完成多步骤任务。在MMLU、AGIEval等主流评测基准上展现出同级别最优性能。该开源项目面向学术研究完全开放,同时提供免费商业授权渠道。
Baichuan2 - 开源大语言模型
Baichuan 2Github大语言模型开源开源项目推理和部署模型微调
Baichuan 2,新一代开源大语言模型,拥有基于2.6万亿Tokens训练的7B与13B版本,展现卓越性能于多语言、法律及医疗领域。开发者经官方审核后,可免费商用。详情见技术报告《Baichuan 2: Open Large-scale Language Models》。
llm-compiler-7b - 一种用于增强代码优化的先进语言模型
GithubHuggingfaceLLVMMeta Large Language Model Compiler代码优化开源开源项目模型编译器优化
Meta的LLM Compiler是一款编译器优化语言模型,基于Code Llama构建,提升了对编译器中间表示与汇编语言的理解。LLM Compiler提供7B和13B两个版本,能够预测LLVM优化效果,在代码优化与反汇编任务中表现优异,实现了显著的代码优化和反汇编准确性。这一模型适用于研究与商业用途,助力开发者提高代码优化效率。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号