Logo
Project Icon

bloom-560m-intermediate

BLOOM大型多语言模型的训练过程中间检查点

Huggingface模型大语言模型开源人工智能Github多语言开源项目BLOOM

bloom-560m-intermediate项目提供BLOOM大型多语言模型在训练过程中的中间检查点,涵盖1000至600000全局步骤的多个阶段。BLOOM支持45种自然语言和12种编程语言,使用1.5TB预处理文本训练。这些检查点为研究人员提供了分析大型语言模型训练过程的重要资源。

访问官网访问官网GithubGithubHuggingfaceHuggingface文档文档论文论文
介绍相关项目
hailo_model_zoo - 面向多AI任务的深度学习预训练模型集合
GithubHailo Model ZooHailo硬件开源项目模型优化深度学习预训练模型
Hailo模型库提供针对分类、检测和分割等AI任务的预训练深度学习模型。用户可测量模型的全精度和量化精度,并生成用于Hailo硬件加速的HEF文件。该库还包含自定义数据集重训练指南和特定用例模型。支持快速上手、性能评估及Hailo硬件部署,助力高效AI应用开发。
VisualGLM-6B - 一个具备处理图像、中文和英文的能力的开源多模态对话语言模型
GithubVisualGLM-6B图像描述多模态对话模型开源开源项目微调
VisualGLM-6B是一个开源多模态对话语言模型，具备处理图像、中文和英文的能力。该模型继承自强大的ChatGLM-6B基础，增添了6.2亿参数，整合了先进的BLIP2-Qformer技术，达到了语言和视觉数据的高效融合。模型总参数量为7.8亿，展现在多个核心多模态任务上的卓越效能。针对各种应用场景均进行了优化，支持在消费级显卡上运行，降低了使用门槛，拓展了其在学术研究和实务应用中的潜力。
pythia - 大语言模型训练过程知识演化分析开源项目
GithubPythia可解释性研究大语言模型学习动态开源项目模型训练
Pythia是一个开源项目,旨在分析大语言模型训练过程中的知识演化。该项目提供完整的模型、数据和代码,包含154个训练检查点,支持研究人员深入探索学习动态和因果关系。Pythia是业界首个支持全面复现和学习动态分析的模型套件,为大语言模型的可解释性研究提供了重要工具。
InternVL - 开源多模态模型包提供商业级性能
GPT-4oGithubInternVLSOTA性能多模态模型开源开源项目
InternVL项目，作为一个领先的开源多模态模型套件，提供可媲美商业模型GPT-4o的性能。该项目开放源代码，支持多语种和高效OCR功能，在多个benchmark中展现出顶尖性能。该平台包括多种模型，如InternVL2-Pro和Mini-InternVL系列，适用于从聊天机器人至复杂多模态文档理解的应用场景。完备的文档资料和快速启动指南为社区成员提供便捷的使用和优化体验。
quantized-models - 提供多源量化模型以提升大语言模型推理效率
GithubHuggingfacequantized-modelstransformers大型语言模型开源项目文本生成推理模型量化模型
quantized-models项目整合了多种来源的量化模型，旨在提高大语言模型的推理效率。模型支持者包括TheBloke、LoneStriker、Meta Llama等，提供gguf、exl2格式的支持。用户可通过transformers库便捷地进行文本生成，这些模型按现状发布，需遵循其各自的许可协议。
ChatGLM2-6B - 基于GLM技术开发的中英双语对话模型
ChatGLM2-6BGithub开源项目性能提升推理速度显存占用模型开源
ChatGLM2-6B，基于GLM技术开发的中英双语对话模型，1.4T中英数据预训练后展现出改善的多语言处理效果，支持长达32K的上下文长度，新技术支持更快的推理速度和更好的对话体验。适用于学术研究和商业应用，如聊天机器人和客服AI，提供技术支持与灵活部署方案。
LLMBox - 全面的大型语言模型训练与评估框架
GithubLLMBox大语言模型开源项目模型评估训练管道高效推理
LLMBox是一个综合性大型语言模型(LLM)库，集成了统一的训练流程和全面的模型评估功能。该框架旨在提供LLM训练和应用的完整解决方案，其设计注重实用性，在训练和使用过程中体现出高度的灵活性和效率。LLMBox支持多样化的训练策略和数据集，提供丰富的评估方法，并具备高效的推理和量化能力，为LLM的研究和开发提供了强大支持。
Mantis-8B-siglip-llama3-pretraind - 非功能性模型的实验再现及Llama3性能优化探索
GithubHuggingfaceMantis-InstructTIGER-Labllama3实验开源项目模型
llava_siglip_llama3_8b_pretrain_8192是一个用于实验再现的非功能性模型，旨在探索Llama3模型的性能改进。该项目提供了Mantis-Instruct微调版本的参考，帮助研究人员进行实验再现与分析。通过这一预训练检查点，研究人员可以了解模型的结构和潜在的优化方向。尽管该模型不适用于实际应用，但其在研究与开发中可作为有意义的基础。
MAP-NEO - 开源大语言模型 性能卓越且训练过程透明
GithubMAP-NEO大型语言模型开源开源项目性能评估训练数据
MAP-NEO是一个完全开源的大语言模型，其预训练数据、处理流程、脚本和代码均可获取。该模型在4.5T英中文数据上训练，性能与LLaMA2 7B相当。在推理、数学和编码等任务中，MAP-NEO表现优异。项目公开了训练全过程，包括检查点、分词器、语料库和优化代码，为大语言模型研究提供了宝贵资源。
Qwen2-72B-Instruct-GPTQ-Int4 - 提升多语言处理能力，支持超长文本输入
GithubHuggingfaceQwen2-72B-Instruct-GPTQ-Int4多语言功能开源项目模型生成能力语言模型长文本处理
Qwen2-72B-Instruct-GPTQ-Int4基于Transformer架构，支持多语言生成和理解，具备长达131,072个标记的处理能力。多专家模型设计增强了在语言生成、代码编写及数学推理方面的表现。提供详细的模型部署指导，利用YARN技术提升长文本处理性能。量化模型基准测试和速度对比数据可协助开发者优化深度学习应用。更多信息和更新请参阅相关博客及文档。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号