Project Icon

bloom-1b1

BigScience开发的开源多语言预训练模型

BLOOM是BigScience开发的开源多语言预训练模型,支持45种自然语言和12种编程语言。模型基于Transformer架构,拥有1760亿参数,在3500亿词元上训练。主要用于文本生成和自然语言处理研究,具备多语言理解与生成能力。项目提供完整模型卡,详述技术规格、应用场景及使用限制。

mpt-7b - 高性能开源大语言模型
GithubHuggingfaceMPT-7B大语言模型开源开源项目模型深度学习自然语言处理
MPT-7B是一个开源大语言模型,在1万亿英文文本和代码上预训练。其改进的Transformer架构支持高效训练和推理,可处理超长输入。模型采用ALiBi技术处理长序列,无需位置嵌入。MPT-7B支持商业使用,为开发者提供了适用于多种下游任务微调的强大基础模型。
ml-engineering - 大规模语言模型与多模态模型的训练方法
BLOOM-176BContextual.AIGithubHuggingFaceLarge Language ModelsVLM开源项目
本指南系统介绍了方法、工具和逐步操作说明,帮助工程师成功训练大规模语言模型(LLM)和多模态模型(VLM)。内容涵盖丰富的脚本和命令,适合LLM/VLM训练工程师和操作员使用。基于作者在开源BLOOM-176B和IDEFICS-80B模型训练中的经验,提供有效解决方案,并持续更新,服务于ML社区。
llama-3-Korean-Bllossom-8B - 基于llama-3的8B参数韩英双语模型Bllossom显著增强韩语能力
BllossomGithubHuggingface双语模型大规模语言模型开源项目模型语言模型韩语增强
llama-3-Korean-Bllossom-8B是一个基于llama-3的韩英双语大型语言模型。通过250GB的韩语预训练和专门的韩语指令微调,该模型显著增强了韩语能力,在LogicKor基准测试中取得了10B以下韩语模型的最佳成绩。模型支持长上下文理解,扩展了3万多个韩语词汇,并应用了人类反馈强化学习。由首尔科技大学、Teddysum和延世大学联合开发,可用于商业用途。
internlm2-20b - 提供深度适应性和超长文本理解能力的20B语言模型
GithubHuggingfaceInternLM对话模型开源项目性能评测模型模型开源评测工具
InternLM2-20B是一款支持20万字符上下文的语言模型,其在推理、数学和编程领域的表现突出。模型分为基础和对话优化版本,可以满足多样的语言处理需求。通过OpenCompass评测,其展示了卓越的综合性能,适合复杂的研究和商业应用。
aya-expanse-8b - Aya Expanse 8B开源多语言模型研究成果
Aya ExpanseGithubHuggingfaceTransformer架构多语言能力大规模语言模型开源项目模型非商业用途
Aya Expanse 8B是由Cohere For AI开发的多语言大语言模型,注重数据套利、多语言偏好训练、安全调优和模型合并等研究领域。它支持23种语言,具有8亿参数的先进架构。用户可以使用Cohere Playground或Hugging Face进行互动探索。该模型在CC-BY-NC许可证下发布,仅限非商业用途。了解更多信息,请访问相关博客和评估数据集。
bert-base-cased - 使用预训练双向Transformer模型提升语言理解能力
BERTGithubHuggingface句子分类开源项目掩码语言建模模型自监督学习预训练
BERT是一种通过自监督学习预训练的双向Transformer模型,旨在改善英语语言理解。基于大型语料库的预训练,使其能学习句子的双向表示,适用于序列分类、标记分类和问答任务。通过Masked Language Modeling和Next Sentence Prediction目标进行预训练,BERT在各类任务中展现出卓越表现,但注意选择合适的训练数据以避免潜在偏见。
OLMo-Bitnet-1B - 利用1B参数模型验证1位LLM训练新方法
DolmaGithubHuggingfaceOLMo-Bitnet-1B参数模型大模型开源项目模型自然语言处理
OLMo-Bitnet-1B项目验证了1位大型语言模型训练方法的潜力。通过Dolma数据集的60亿标记构建了拥有10亿参数的模型,旨在探索新方法的可行性。项目还进行了fp16权重的对比实验,详情见相关报告。模型支持文本生成,包括示例代码方便研究和应用者评估该技术。
bloop - AI代码助手,集成智能搜索与生成功能
AI对话Githubbloop代码搜索代码生成开源项目
bloop是一个基于AI的代码助手工具,集成了智能搜索和代码生成功能。它支持自然语言查询、正则表达式搜索和精确代码导航。bloop能够解释代码、协助编写新功能、理解开源库和定位错误。通过利用现有代码库作为上下文,这个工具有效提升了开发效率,减少了代码重复。bloop支持多种编程语言,并采用本地嵌入技术,注重保护用户隐私。
opt-1.3b - Meta AI开发的开源预训练Transformer语言模型系列
GithubHuggingfaceOPT人工智能开源项目模型自然语言处理语言模型预训练模型
OPT是Meta AI开发的开源预训练Transformer语言模型系列,包含125M至175B参数的多个版本。采用先进数据收集和训练方法,性能可媲美GPT-3。该项目旨在推动大规模语言模型的可复现研究,让更多研究者参与探讨其影响。OPT主要应用于文本生成和下游任务微调,但仍存在偏见等局限性。
OLMo - 开源语言模型加速科学研究
GithubOLMo人工智能开源语言模型开源项目机器学习自然语言处理
OLMo是一个开源语言模型项目,提供多种规模的先进模型,如1B、7B和7B Twin 2T,全部基于Dolma数据集训练。该项目支持模型训练、微调和推理,提供详细配置和检查点以确保研究可重现。OLMo还包含数据检查和评估工具,为语言模型研究提供全面支持,旨在加速这一领域的科学进展。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号