Project Icon

miracl

跨18语言的多语言信息检索数据集

MIRACL项目提供了一个跨18种语言的多语言信息检索数据集,涵盖全球超过30亿母语使用者。该数据集包含16种已知语言的Wikipedia语料库,并提供相应的训练和开发数据。项目还包括基于BM25和mDPR的基线系统,以及使用Pyserini复现结果的指南。这一资源为多语言信息检索研究提供了有价值的支持。

Mistral-Large-Instruct-2407 - Mistral大语言模型在多语言理解与高级推理方面展现卓越性能
GithubHuggingfaceMistral-Large-Instruct人工智能授权函数调用多语言支持大语言模型开源项目模型
Mistral-Large-Instruct-2407作为一款基于123B参数构建的大规模语言模型,集成了多语言处理、代码编程和数学推理等核心功能。模型配备128k上下文窗口,支持80余种编程语言,同时提供函数调用与JSON输出特性。在MMLU测试中达到84.0%的优异成绩,MT Bench评分为8.63,彰显其在自然语言处理领域的实力。目前该模型已开放研究及非商用场景应用。
dolma - 3万亿令牌的多样化开放数据集与高性能管理工具
AI2Dolma DatasetDolma ToolkitGithub开源项目数据集管理语言模型
Dolma项目提供一个包含3万亿令牌的多样化开放数据集,涵盖网络内容、学术出版物、代码、书籍和百科材料。Dolma Toolkit是一款高性能工具包,能够高效整理大型数据集,支持并行处理、便捷移植、内置标签器、快速去重、扩展性和云支持。该项目由Allen Institute for AI开发,数据集可在HuggingFace平台下载。
language - 谷歌语言研究团队开源项目汇集平台
GithubGoogle Research开源项目研究团队自然语言处理语言研究
Google Research Language团队的开源项目共享平台汇集了谷歌语言研究领域的最新成果。该平台为研究者和开发者提供自然语言处理、机器翻译等前沿语言技术资源。项目采用开源模式,促进了语言技术领域的协作与创新。作为非官方谷歌产品,这一平台为语言技术爱好者提供了宝贵的学习和实践机会。
unilm - Unilm项目实现跨任务、语言和模态的大规模自监督预训练
Foundation ModelsGithubLarge-scaleMulti-modalTorchScale开源项目预训练
Unilm项目跨越100多种语言及包括语言、视觉、语音及其交互的多种模态,专注于基础模型和普适AI的研究。该项目已开发多种新型架构如DeepNet、Magneto,并通过稳定高效的训练方法增强模型的通用性和能力。此外,项目已发布关键技术如E5、BEiT-3,涵盖自然语言处理、机器翻译、文档AI及多模态AI等领域,为AI技术的前沿发展和实际应用做出了显著进展。
Awesome-LLMs-Datasets - 完整收录大型语言模型数据集的多维度分类概览
GithubLLMs数据集大语言模型开源项目指令微调数据集评估数据集预训练语料库
这个项目全面收集和分类了大型语言模型(LLM)数据集,包括预训练语料库、指令微调数据集、偏好数据集、评估数据集和传统NLP数据集五大类别。新增的内容涵盖多模态大语言模型数据集和检索增强生成数据集。项目统计了444个数据集的详细信息,覆盖8种语言和32个领域,为LLM研究提供了全面参考资源。
MMDialog - 推进多模态开放域对话研究的大规模数据集
GithubMMDialog多模态对话数据集大规模数据开放域对话开源项目自然语言处理
MMDialog是一个包含丰富文本和图像信息的大规模多轮对话数据集。它提供详细的数据统计、格式说明和评估方法,适用于多模态开放域对话研究。学术研究人员可通过申请流程获取该数据集,用于非商业性研究。MMDialog为自然语言处理领域的多样化对话任务研究提供了重要资源。
MAD - 大规模电影音频数据集用于视频语言定位研究
CVPRGithubMAD数据集开源项目电影音频描述视频语言定位计算机视觉
MAD是一个用于视频语言定位研究的大规模数据集,源自电影音频描述。它包含384K个句子,涵盖650部电影的1.2K小时视频内容。数据集横跨22个电影类型和90年电影史,提供多样化的动作、场景和语言素材。MAD的独特之处在于其长形式定位设置,具有庞大的语言词汇量,对准确性和效率提出了挑战。这一资源为研究人员开拓了视频语言理解的新领域。
mmarco-mMiniLMv2-L12-H384-v1 - 支持多语言的MMARCO跨编码器模型
Cross-EncoderGithubGoogle翻译Huggingface信息检索多语言开源项目模型模型训练
MMARCO-MiniLMv2-L12-H384-v1模型使用MMARCO数据集,以Google Translate翻译为14种语言,基于多语言MiniLMv2训练,主要用于信息检索。借助SentenceTransformers工具,用户可以对查询进行编码和排序,实现高效的信息检索。详细信息和训练代码可在SBERT.net及GitHub上查看,适用于多语言环境的信息检索。
mir - 多平台轻量级JIT编译器框架
GithubJIT编译器MIR中间表示代码优化开源项目编译器项目
MIR是一个轻量级JIT编译器框架,为快速高效的即时编译器实现提供基础。支持x86_64、ARM64、POWER等多种架构,采用强类型中间表示。MIR提供API用于创建模块、函数和指令,支持二进制和文本格式代码处理。编译器使用简化优化流程,包括函数内联和全局公共子表达式消除等,在编译速度和代码性能间取得平衡。MIR适用于需要快速、轻量级JIT编译的项目开发。
aici - 控制和优化大型语言模型输出的灵活且安全的接口工具
AICIGithubLLMWebAssembly实时输出开源项目控制器
AICI提供了一个灵活的大型语言模型(LLM)输出控制平台,允许开发者通过自定义逻辑实时监控和调整模型输出。支持本地和云端部署,基于WebAssembly实现高安全性和高性能,支持多种编程语言,确保与多种LLM引擎如llama.cpp和HuggingFace Transformers的兼容。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号