Project Icon

setfit

SetFit高效小样本学习框架,支持多语言文本分类

SetFit是一种高效且无需提示的小样本微调框架,利用Sentence Transformers实现高准确度的小样本学习。不需要手工制作提示或语言模型转换器,直接从文本示例生成丰富嵌入,大大提高训练速度。在仅有少量标记数据的情况下,SetFit的精度可与大型模型相媲美。例如,针对客户评论情感数据集,仅使用每类8个标记样本就能达到RoBERTa Large的全量训练精度。支持多语言文本分类,兼容Hugging Face Hub,训练和推理过程简单直观,是一个高效实用的选择。

all-MiniLM-L6-v2-onnx - 高效文本嵌入和相似度搜索的ONNX解决方案
FastEmbedGithubHuggingfaceONNXsentence-transformers开源项目文本分类模型相似度搜索
all-MiniLM-L6-v2模型的ONNX版本是一个用于文本分类和相似度搜索的工具。该模型与Qdrant兼容,支持IDF修饰符,并可通过FastEmbed库进行推理。它能生成文本嵌入向量,适用于多种自然语言处理任务,尤其在需要进行文本相似度比较的场景中表现优异。使用该模型可以简化文本处理流程,提高相关应用的效率。
llm-finetuning - Modal和axolotl驱动的大语言模型高效微调框架
DeepSpeedGithubLLM微调LoRAModalaxolotl开源项目
这个开源项目整合了Modal和axolotl,为大语言模型微调提供了一个高效框架。它采用Deepspeed ZeRO、LoRA适配器和Flash Attention等先进技术,实现了高性能的模型训练。该框架支持云端部署,简化了资源管理流程,并可灵活适配不同模型和数据集。项目还提供了全面的配置说明和使用指南,方便开发者快速上手和定制化应用。
Pytorch-NLU - 轻量级NLP工具包 支持文本分类和序列标注
GithubPytorch-NLU序列标注开源项目文本分类自然语言处理预训练模型
Pytorch-NLU是一个轻量级自然语言处理工具包,专注于文本分类、序列标注和文本摘要任务。该工具包支持BERT、ERNIE等多种预训练模型,提供多种损失函数,具有依赖少、代码简洁、注释详细、配置灵活等特点。Pytorch-NLU包含丰富的数据集,使用方式简单,可快速应用于实际NLP项目中。
gte-small - 基于ONNX权重的Transformers.js模型嵌入及余弦相似度计算
GithubHuggingfaceJavaScriptONNXTransformers.js开源项目模型特征提取相似度计算
本项目介绍了使用ONNX权重与Transformers.js库计算模型嵌入和余弦相似度的过程。通过安装Transformers.js库,可以轻松地创建特征提取管道,并进行句子嵌入和相似度计算。项目默认采用8位量化模型,同时支持全精度版本。ONNX模型为未来的WebML应用做好了准备,建议通过Optimum工具进行ONNX格式转换以实现网络兼容。
zero_nlp - 中文NLP训练与应用框架
Githubpytorchzero_nlp中文NLP大模型开源项目模型训练
zero_nlp是基于pytorch和transformers的中文NLP框架,支持从数据处理到模型部署的整个工作流程。它特别适用于处理大数据集、训练和部署多卡串联大模型,支持包括gpt2、clip在内的丰富模型类型,适用于文本分类、生成及多模态处理等多种任务。
SimCSE - 简单便捷的句子嵌入对比学习工具
GithubSimCSE句子嵌入对比学习开源项目无监督学习有监督学习
SimCSE项目提供一个简单的句子嵌入对比学习框架,支持有标签和无标签数据。无监督模型使用标准dropout通过输入句子预测自身,有监督模型利用NLI数据集的注释对进行对比学习。用户可以轻松安装并使用SimCSE进行句子嵌入、相似性计算和句子检索。该项目支持HuggingFace集成和faiss相似性搜索库,并提供全面的模型评估和训练脚本。详细信息和代码请参阅SimCSE仓库。
stable-fast - 优化HuggingFace Diffusers推理性能的轻量级框架
CUDADiffusersGithubPyTorchStable FastTorchScript开源项目
stable-fast是一个优化HuggingFace Diffusers推理性能的轻量级框架,支持NVIDIA GPU。相比TensorRT和AITemplate需要几十分钟的编译时间,stable-fast仅需几秒钟即可完成模型编译。主要特色包括动态形状、低精度计算和多种算子融合。它还兼容ControlNet和LoRA,并支持最新的StableVideoDiffusionPipeline,是加速PyTorch推理的有效工具。
labse_bert - 多语言BERT句子嵌入模型及其应用
GithubHuggingfaceLABSE BERT句子嵌入多语言处理开源项目模型模型应用自然语言处理
LaBSE BERT是一种语言无关的句子嵌入模型,由Fangxiaoyu Feng等人开发并在TensorFlow Hub上提供。该模型能够将文本转换为高效的向量表示,适用于多语言文本处理。利用AutoTokenizer和AutoModel加载模型,并通过mean_pooling方法获取句子嵌入,以增强文本分析和信息检索等领域的性能。使用PyTorch实现编码和处理,多语言文本分析更加轻松。
zshot - 零样本与少样本命名实体和关系识别的开源框架
GithubZshot关系抽取命名实体识别实体链接开源项目零样本学习
Zshot是一个高度可定制的开源框架,支持零样本和少样本的命名实体识别和关系识别。该框架提供提及抽取、维基化和关系抽取等功能,并利用SpaCy进行可视化。适用于研究和工业应用,支持最新的方法和预训练模型,并提供易于扩展的API接口。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

白日梦AI

白日梦AI提供专注于AI视频生成的多样化功能,包括文生视频、动态画面和形象生成等,帮助用户快速上手,创造专业级内容。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

讯飞绘镜

讯飞绘镜是一个支持从创意到完整视频创作的智能平台,用户可以快速生成视频素材并创作独特的音乐视频和故事。平台提供多样化的主题和精选作品,帮助用户探索创意灵感。

Project Cover

讯飞文书

讯飞文书依托讯飞星火大模型,为文书写作者提供从素材筹备到稿件撰写及审稿的全程支持。通过录音智记和以稿写稿等功能,满足事务性工作的高频需求,帮助撰稿人节省精力,提高效率,优化工作与生活。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号