Project Icon

cross-encoder-mmarco-mMiniLMv2-L12-H384-v1

多语言文本重排序模型提升搜索结果准确性

mmarco-mMiniLMv2-L12-H384-v1是一个多语言文本重排序模型,基于MiniLM架构设计。它采用12层transformer结构和384维隐藏层,专注于提升文本搜索和排序的准确性。该模型支持多语言输入,适用于搜索结果优化和文档排序等任务,在保持高效性能的同时兼顾了跨语言应用。作为一个开源项目,它为研究人员和开发者提供了强大的文本相关性评分工具。

dragon-plus-context-encoder - 基于BERT的密集检索器实现多样化文档检索
BERTDRAGON+GithubHuggingface密集检索开源项目模型模型训练特征提取
dragon-plus-context-encoder是一个基于BERT的密集检索器,由RetroMAE初始化并在MS MARCO语料库上进行了进一步训练。该模型使用非对称双编码器结构,在MARCO Dev和BEIR基准测试中分别达到39.0和47.4的得分。通过HuggingFace Transformers,研究人员可以轻松使用该模型进行查询和上下文编码,实现文本相似度计算和文档检索。此外,项目还提供了基于RoBERTa的变体,为不同需求的用户提供了选择。
sbert-all-MiniLM-L6-with-pooler - 基于MiniLM的384维句子向量化模型
GithubHuggingfaceONNXsentence-transformers向量嵌入开源项目模型特征提取语义搜索
sbert-all-MiniLM-L6-with-pooler基于sentence-transformers框架开发,将文本映射为384维向量表示。该模型在10亿对句子数据集上完成训练,可应用于文本聚类和语义搜索等场景。模型通过Hugging Face Optimum实现,支持便捷的特征提取功能。
msmarco-distilbert-base-tas-b - 高效语义搜索句子嵌入模型
DistilBertGithubHuggingfacesentence-transformers嵌入模型开源项目模型自然语言处理语义搜索
msmarco-distilbert-base-tas-b是一个基于sentence-transformers的语义搜索模型。它将句子和段落映射到768维向量空间,专为查询-文档匹配优化。模型易于使用,可通过sentence-transformers库集成,在信息检索和语义相似性任务中表现出色。这个开源项目为开发者提供了一个高效的语义搜索解决方案。
MINI_LLM - 完整中文大语言模型训练流程实践
DPOGithubMini-llm大模型开源项目微调预训练
MINI_LLM项目展示了完整的中文大语言模型训练流程,涵盖预训练、SFT指令微调和DPO优化阶段。该项目基于QWEN模型,利用多种数据集训练出1.4B参数规模的模型。项目详细介绍了数据处理方法、提供训练脚本,并包含多GPU训练指南,为中文大语言模型开发提供了实用参考。
LLMRank - 大语言模型在推荐系统排序中的应用与挑战
GithubLLMRank偏见大语言模型开源项目推荐系统零样本排序
LLMRank项目聚焦大语言模型在推荐系统排序中的潜力。研究采用指令跟随方法,将用户行为历史和候选项整合到自然语言模板中。实验结果显示,大语言模型具备强大的零样本排序能力,但在处理用户历史顺序信息时面临挑战。通过设计特定提示策略,可有效提升排序表现。此外,项目还深入分析了排序过程中的偏见问题,并提出了相应的解决方案。
MiniCPM - 轻量级大语言模型实现高性能端侧部署
GithubMiniCPM多模态开源模型开源项目模型量化端侧大语言模型
MiniCPM是一系列高效的端侧大语言模型,仅有2.4B非词嵌入参数。经过优化后,在多项评测中表现优异,甚至超越了一些参数量更大的模型。该项目支持多模态功能,可在移动设备上流畅运行。MiniCPM开源了多个版本,涵盖文本、多模态、量化和长文本等应用场景,适用于学术研究和特定商业用途。这一开源项目由面壁智能与清华大学自然语言处理实验室联合开发。
mlc-llm - 通用大语言模型高性能部署引擎
AI模型优化GithubMLC LLMMLCEngine开源项目机器学习编译器高性能部署
MLC LLM是一款用于大语言模型的高性能部署引擎,支持用户在各种平台上开发、优化和部署AI模型。核心组件MLCEngine通过REST服务器、Python、JavaScript、iOS和Android等接口提供OpenAI兼容的API,支持AMD、NVIDIA、Apple和Intel等多种硬件平台。项目持续优化编译器和引擎,与社区共同发展。
marqo - 向量搜索引擎 ,实现文本和图像内容的矢量化处理及检索
GithubMarqo向量搜索嵌入生成开源项目数据索引机器学习
Marqo 作为全面的端到端向量搜索引擎,不仅实现文本和图像内容的矢量化处理及检索,更支持最新机器学习模型。其简洁的API设计允许开发者轻松实行多样的语义搜索操作,且无需独立处理数据嵌入问题。Marqo 的云服务部署有效降低响应时间,同时提供可伸缩的计算资源、持续可靠的服务及全时技术支持。
m2 - 子二次GEMM架构Monarch Mixer实现高效语言模型
GithubM2-BERTMonarch Mixer人工智能开源项目机器学习自然语言处理
Monarch Mixer是一种创新的子二次GEMM架构,用于训练序列长度和模型维度均为子二次的语言模型。该架构使用Monarch矩阵层替代Transformer中的注意力和MLP操作,提高了计算效率。基于此架构的M2-BERT模型在减少25%参数和计算量的同时,在GLUE基准测试中达到了与BERT相当的性能。项目开源了预训练模型权重以及预训练和微调代码,方便研究者进行further研究。
xllm - 便捷微调大语言模型,集成最新优化技术
GithubX—LLM大语言模型开源项目模型训练训练优化集成开发
X—LLM是一个便捷的微调大语言模型工具,集成了诸如QLoRA、DeepSpeed、GPTQ、Flash Attention 2和FSDP等最新优化方法,显著提升训练效率。用户可以专注于模型和数据的优化,而不需要繁琐的代码编写。该工具支持多种Transformer模型,并可无缝对接HuggingFace Hub,适用于生产环境和快速原型设计,有助于用户更好地掌控模型训练进度并降低开销。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

白日梦AI

白日梦AI提供专注于AI视频生成的多样化功能,包括文生视频、动态画面和形象生成等,帮助用户快速上手,创造专业级内容。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

讯飞绘镜

讯飞绘镜是一个支持从创意到完整视频创作的智能平台,用户可以快速生成视频素材并创作独特的音乐视频和故事。平台提供多样化的主题和精选作品,帮助用户探索创意灵感。

Project Cover

讯飞文书

讯飞文书依托讯飞星火大模型,为文书写作者提供从素材筹备到稿件撰写及审稿的全程支持。通过录音智记和以稿写稿等功能,满足事务性工作的高频需求,帮助撰稿人节省精力,提高效率,优化工作与生活。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号