Project Icon

MiniLM-L6-Keyword-Extraction

高效句子嵌入模型,用于语义搜索与信息聚类

此项目通过自监督对比学习,训练出可将句子和段落转化为384维向量的模型,适用于语义搜索、信息检索和句子相似度任务。模型基于1B句子对数据集微调,利用TPU v3-8进行训练,并在Hugging Face社区活动期间开发。用户可使用sentence-transformers或HuggingFace Transformers实现多种自然语言处理应用。

paraphrase-mpnet-base-v2 - 高维度句子嵌入模型助力语义分析
GithubHuggingfacesentence-transformers句子嵌入开源项目模型特征提取自然语言处理语义相似度
paraphrase-mpnet-base-v2是基于sentence-transformers框架的句子嵌入模型,可将文本映射至768维向量空间。此模型适用于文本聚类和语义搜索,支持通过sentence-transformers或HuggingFace Transformers库集成。在多项基准测试中表现优异,为自然语言处理提供高质量语义表示。
MiniLMv2-L6-H384-distilled-from-BERT-Large - 微软开发的轻量压缩型自然语言处理模型
GithubHuggingfaceMicrosoftMiniLMv2人工智能开源项目模型深度学习自然语言处理
MiniLMv2-L6-H384-distilled-from-BERT-Large是微软开发的轻量级自然语言处理模型,通过知识蒸馏技术从BERT-Large模型压缩而来。该模型在保持性能的同时,显著降低了模型体积和计算资源需求,适合在资源受限场景下部署使用。
sentence-transformers-multilingual-e5-small - 多语言句子相似性和分类模型,覆盖多种语言选择
AmazonReviewsGithubHuggingfacemultilingual-e5-small分类句子相似性多语言开源项目模型
该项目提供多语言句子相似性和分类功能,适用范围广泛。采用MIT许可证,通过英语、德语、法语、西班牙语和中文等语言实现较高的精准度。通过Amazon反事实分类和情感极性任务表现出色,涵盖丰富的数据集和评估任务,如重排序和语义文本相似等,有效支持文本分类及自动化分析。
labse_bert - 多语言BERT句子嵌入模型及其应用
GithubHuggingfaceLABSE BERT句子嵌入多语言处理开源项目模型模型应用自然语言处理
LaBSE BERT是一种语言无关的句子嵌入模型,由Fangxiaoyu Feng等人开发并在TensorFlow Hub上提供。该模型能够将文本转换为高效的向量表示,适用于多语言文本处理。利用AutoTokenizer和AutoModel加载模型,并通过mean_pooling方法获取句子嵌入,以增强文本分析和信息检索等领域的性能。使用PyTorch实现编码和处理,多语言文本分析更加轻松。
ms-marco-MiniLM-L-12-v2 - 跨编码器模型实现高效信息检索与段落排序
Cross-EncoderGithubHuggingfaceMS MarcoSentenceTransformers信息检索开源项目模型自然语言处理
ms-marco-MiniLM-L-12-v2是为MS Marco段落排序任务开发的跨编码器模型。该模型在信息检索领域表现优异,能够高效编码和排序查询与段落。在TREC Deep Learning 2019和MS Marco Passage Reranking数据集上,模型分别达到74.31的NDCG@10和39.02的MRR@10。每秒处理960个文档的速度使其在准确性和效率间实现了良好平衡,适用于各类信息检索应用场景。
open-text-embeddings - 使用多源模型的OpenAI API兼容文本向量生成工具
GithubLangChainOpenAI APIembeddingsopen-text-embeddingssentence-transformers开源项目
该项目创建了与OpenAI API兼容的文本向量生成端点,支持多种开源句子转换模型,包括BAAI/bge-large-en、intfloat/e5-large-v2、sentence-transformers等。提供详细的本地和云端部署指南,方便用户在多种环境下运行服务器,实现高效查询与存储。用户也可通过Colab在线测试,体验开源文本向量生成的便捷性。
KeyBERT - BERT驱动的智能关键词提取工具
BERT嵌入GithubKeyBERT关键词提取开源项目机器学习自然语言处理
KeyBERT是一款利用BERT嵌入技术的关键词提取工具。它通过计算文档和短语的嵌入表示之间的余弦相似度,识别出最能代表文档内容的关键词和短语。该工具支持Sentence-Transformers、Flair和Spacy等多种嵌入模型,适用于广泛的文本分析场景。KeyBERT还集成了Max Sum Distance和Maximal Marginal Relevance等算法,以提升结果多样性。此外,它还能与大型语言模型协同工作,为用户提供灵活高效的关键词提取方案。
llm-toys - 微调小型语言模型实现多任务处理
Githubllm-toys任务微调低资源模型对话摘要开源项目语气变化
llm-toys 项目提供适用于释义、语气转换、对话总结和主题生成等任务的小型量化3B和7B语言模型。这些经过微调的模型能在普通消费级硬件上高效运行,并通过简单的安装步骤提升文本处理和生成能力。
MINI_LLM - 完整中文大语言模型训练流程实践
DPOGithubMini-llm大模型开源项目微调预训练
MINI_LLM项目展示了完整的中文大语言模型训练流程,涵盖预训练、SFT指令微调和DPO优化阶段。该项目基于QWEN模型,利用多种数据集训练出1.4B参数规模的模型。项目详细介绍了数据处理方法、提供训练脚本,并包含多GPU训练指南,为中文大语言模型开发提供了实用参考。
text2vec - 多模型文本向量化工具,支持多语言文本匹配分析
BERTGithubText2vec开源项目文本向量化文本相似度模型训练
text2vec工具实现了多种文本向量表示和相似度计算模型,如Word2Vec、BERT、Sentence-BERT和CoSENT。最新版本增加了多卡推理和命令行工具,方便用户批量处理文本向量化。它在中英文测试集上的表现优秀,尤其新版中文匹配模型在短文本区分上有显著提升。该工具为中文和多语言文本匹配提供了丰富的支持,能够满足各种文本语义分析任务的需求。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号