stark

大规模半结构化检索基准，推动LLM性能提升

STaRK 知识基查询数据集检索系统大规模 Github 开源项目

STaRK提供一个大规模的半结构化检索基准，涵盖产品搜索、学术论文检索和生物医学查询，旨在评估和提升LLM在文本与关系型知识库中的检索效果。该基准含有多样化和现实的查询，要求上下文相关推理，为未来研究提供有力支持。STaRK已在Hugging Face平台发布，并可以通过pip包直接加载，支持用户互动查询的探索性界面。更多详情请访问官方网站。

访问官网

Github

Huggingface

介绍相关项目

InsTag - LLM监督微调数据分析与优化工具

GithubInsTagLLM开源项目数据分析标签系统监督微调

InsTag是大型语言模型监督微调数据分析工具,通过标记和分类用户查询,量化评估数据多样性与复杂性。该工具为研究人员提供模型训练优化依据,基于InsTag分析结果,仅需6K样本即可训练出TagLM模型。在MT-Bench评测中,TagLM表现优于多个开源LLM,凸显了InsTag在提升LLM训练效率方面的价值。

bert-multilingual-passage-reranking-msmarco - BERT多语言文本重排序模型优化搜索效果

BERTGithubHuggingface多语言开源项目搜索引擎机器学习模型模型训练

这是一个支持100多种语言的BERT段落重排序模型,通过对搜索查询和文本段落的语义匹配分析,可将搜索结果相关性提升61%。模型在MS MARCO数据集上训练,可无缝集成到Elasticsearch中,适用于多语言搜索优化场景。实测表明,其在英语性能与单语模型相当,在德语等其他语言上表现更优。

msmarco-MiniLM-L12-en-de-v1 - 基于MS MARCO的英德双语文本重排序模型

GithubHuggingfaceMS Marco信息检索开源项目德英翻译模型自然语言处理跨语言检索模型

基于MS MARCO数据集开发的英德双语跨编码器模型，主要用于文本段落重排序。模型在TREC-DL19评测中NDCG@10分别达到72.94（英-英）和66.07（德-英），在GermanDPR数据集上MRR@10为49.91。支持SentenceTransformers和Transformers框架，处理速度为900对文档/秒，适用于跨语言信息检索场景。

llm-search - 支持多格式文档和语义重排搜索功能的问答系统

GithubpyLLMSearch大型语言模型开源项目文档嵌入混合搜索语义搜索

llm-search是一款高效的问答系统，提供简易的YAML配置和与多个本地文档集的交互能力。特色包括优化的文档解析、结合HyDE技术提高搜索结果的准确性和相关性的混合搜索、聊天历史、深度链接、重新排名和定制嵌入等。适用于各类大型语言模型，如OpenAI或本地方案，提供高度定制化。此外，系统能够生成高质量的密集和稀疏嵌入，以优化搜索效果，支持多查询和与其他LLM平台的互操作性。

StableLM - 持续更新的AI语言模型开发与优化平台

AI工具AI开发StabilityAIStableLM人工智能开源模型训练热门语言模型

探索Stability AI的StableLM网站，了解和参与最前沿的AI语言模型开发，通过详细的模型介绍和技术报告，加深对自然语言处理技术的理解和应用。

simlm-msmarco-reranker - SimLM预训练的高性能密集段落检索模型

GithubHuggingfaceSimLM信息检索密集段落检索开源项目模型自然语言处理预训练模型

simlm-msmarco-reranker模型采用简单的瓶颈架构,通过自监督预训练压缩段落信息。在MS-MARCO等数据集上表现优异,超越ColBERTv2等多向量方法。该模型仅需无标签语料库即可训练,适用于缺乏标记数据的场景。研究人员可以使用此模型计算查询和段落的相关性得分,应用于信息检索和文本排序任务。

fastRAG - 检索增强生成模型的构建与应用探索

ColBERTGithubHaystackLLMONNX RuntimefastRAG开源项目

fastRAG是一个专为构建和优化检索增强生成模型的研究框架，集成了最先进的LLM和信息检索技术。它为研究人员和开发人员提供了一整套工具，支持在Intel硬件上进行优化，并兼容Haystack自定义组件。其主要特点包括对多模态和聊天演示的支持、优化的嵌入模型和索引修改功能，以及与Haystack v2+的兼容性。

FLASK - 细粒度语言模型评估框架

FLASKGithub对齐评估开源项目技能集细粒度分析语言模型评估

FLASK是一个开源的语言模型评估框架，采用细粒度的实例级技能集作为评估指标。该框架提供任务无关的评估协议，包含模型推理、GPT-4评估和结果分析功能。FLASK还具备自动元数据标注能力，可标注领域、技能集和难度级别。项目包含详细使用说明和在线演示，为语言模型评估提供全面解决方案。

spacy-stanza - 多语言自然语言处理工具，结合SpaCy和Stanza的强大功能

GithubStanzaspaCy处理管线开源项目模型自然语言处理

spacy-stanza 是一个包装 Stanza 库的软件，使得在 SpaCy 管道中使用斯坦福模型变得更加容易。其功能包括多语言词性标注、形态分析、词干提取和依存解析，支持68种语言，还为部分语言提供命名实体识别功能。用户可以通过下载预训练的 Stanza 模型，通过 spacy_stanza.load_pipeline() 加载并处理文本。这个工具还允许添加自定义组件，结合 SpaCy 的词汇属性、规则匹配和可视化功能，提供了强大的自然语言处理解决方案。

cherche - 神经搜索和语义检索的开源工具

ChercheGithub安装指南开源项目排序器检索器神经搜索

Cherche是一款开源工具，用于开发神经搜索流水线，支持预训练语言模型和检索器，特点是在于构建端到端检索管道，适用于离线语义搜索。它支持多种检索器和排名模型，包括TF-IDF、BM25、Lunr、DPR等，并与SentenceTransformers和Hugging Face模型兼容。项目提供详细文档和安装指南，欢迎社区参与贡献。

相关项目

项目侧边栏1

项目侧边栏2

推荐项目

Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com

@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号