Logo
Project Icon

text-dedup

文本去重工具集，支持多种去重方法和大规模数据集处理

text-dedupMinHashSimHashBloom FilterRETSimGithub开源项目

项目提供一系列文本去重脚本，适用于各种场景，包括嵌入式去重（RETSim/UniSim）、适合大规模数据集的MinHash + MinHashLSH、64或128位SimHash、后缀数组子串去重、布隆过滤器和精确哈希去重等方法。项目支持高效处理大数据集并计划引入更多去重方法，如SuperMinHash和ProbMinHash等。用户可以根据需求来自定义脚本，灵活应用于不同的文本数据处理场景。

访问官网访问官网GithubGithubHuggingfaceHuggingface文档文档
介绍相关项目
uniflow-llm-based-pdf-extraction-text-cleaning-data-clustering - 多源文档提取与转换的统一LLM框架
GithubLLM接口uniflow开源项目数据转换文档提取模型微调
uniflow是一个开源项目，为多种文档类型提供统一的LLM接口，实现数据提取和转换。支持PDF、HTML和TXT等格式，兼容OpenAI、Google Gemini和AWS BedRock等主流LLM模型。该项目致力于解决遗留文档处理和数据准备的难题，为数据科学家提供生成隐私保护训练数据集的工具，简化LLM微调流程。uniflow还包含多个实用案例，如财务报告分析和教育资料问答生成等。
custom-diffusion - 文本到图像扩散模型微调方法
Custom DiffusionGithubStable Diffusion图像生成多概念定制开源项目文本到图像扩散模型
该项目提供了一种高效的文本到图像扩散模型微调方法。只需调整部分模型参数，即可在短时间内完成训练，并减少存储需求。项目还支持多概念组合，附带新数据集和完整的训练步骤。适用于多种类别和应用场景。
awesome-semantic-search - 语义搜索与语义相似性全面资源
AIGithubNLPSemantic SearchSemantic SimilarityText Embedding开源项目
综合性语义搜索和相似性资源库，包含多领域的学术论文、工具和数据集，适用于搜索引擎优化和信息检索研究，不仅限于文本，还涵盖图像、语音等应用。
multilingual-e5-large-pooled - 多语言支持的句子相似性与特征提取模型
GithubHuggingfaceMTEBmultilingual-e5-large分类句子相似度开源项目模型特征提取
此项目基于多语言处理，融合Sentence Transformers技术，专注于句子相似性与特征提取。支持多语言，适用于分类、重排序、文本聚类等多种场景。模型在各种任务中表现优异，如MTEB AmazonCounterfactualClassification和MTEB BUCC中的分类与双语文本挖掘，表现出色。采用MIT许可证，具有高度使用灵活性。
DigestDiff - 智能代码提交历史分析工具
AI工具DigestDiffGitHub代码库提交历史
DigestDiff专注于commit history分析，帮助开发者洞察项目进展和协作过程。工具注重隐私保护，仅访问提交历史而不接触实际代码。支持GitHub集成或手动输入，可生成insightful release notes和代码库概览。DigestDiff为开发团队提供安全、智能的方式解读代码库演变历程。用户可免费试用该工具，体验其独特功能。
usearch - 快速轻量的开源向量搜索引擎
GithubHNSW算法USearch向量搜索引擎多语言支持开源项目相似度搜索
USearch是一个开源的单文件相似性搜索引擎,专注于向量和文本搜索。该引擎比FAISS性能提升10倍,支持多种编程语言和平台。USearch提供SIMD优化和自定义度量功能,具有高内存效率,可从磁盘直接查看大型索引。它兼容多种数据库,适用于语义搜索、聚类等场景,为向量搜索提供了灵活高效的解决方案。
text2text - 跨语言文本处理的综合工具包
GithubText2Text开源项目文本生成自然语言处理语言翻译跨语言模型
提供跨语言文本生成、翻译、嵌入和问答等功能的NLP工具包，支持百种语言。可在Google Colab平台免费运行，适用学术研究、企业应用和个性化开发。通过示例和快速入门指南，用户能快速掌握强大的多语言模型，高效处理文本。
RedisShake - Redis数据处理与迁移工具 支持多版本和云服务
GithubRedisShakeRedis数据迁移云服务兼容开源项目数据处理工具
RedisShake是一个开源的Redis数据处理和迁移工具，支持Redis 2.8至7.2版本。它兼容多种部署方式，包括独立、主从、哨兵和集群模式，以及主流云服务提供商的Redis兼容数据库。RedisShake提供PSync、RDB和Scan等导出模式，支持数据过滤和转换，并兼容TairString、TairZSet和TairHash模块。这个工具可用于多种Redis数据迁移和处理场景。
ToolGood.Words - 多功能中文文本处理与敏感词过滤库
GithubToolGood.Words字符串搜索开源项目拼音操作敏感词检测繁简转换
ToolGood.Words是一个高性能的中文文本处理库，集成了敏感词检测、繁简体转换、全半角转换、拼音处理等功能。该项目提供多种高效的字符串搜索算法，支持通配符匹配，并包含拼音匹配和文本转换等实用工具。在大规模敏感词库上，其处理速度可达3亿字符每秒。这个开源项目适用于内容审核、文本过滤等多种应用场景。
llama-zip - 利用大语言模型实现高效文本压缩的开源工具
Githubllama-zip压缩工具开源项目文本压缩算术编码语言模型
llama-zip是一个开源的无损压缩工具，结合大型语言模型(LLM)和算术编码技术。它采用滑动上下文窗口方法，可压缩任意长度的文本，并支持结构化文本、自然语言和二进制数据。在多种文本数据测试中，llama-zip展现出优于传统压缩工具的性能，为数据压缩领域带来了新的可能性。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

白日梦AI

白日梦AI提供专注于AI视频生成的多样化功能，包括文生视频、动态画面和形象生成等，帮助用户快速上手，创造专业级内容。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

讯飞绘镜

讯飞绘镜是一个支持从创意到完整视频创作的智能平台，用户可以快速生成视频素材并创作独特的音乐视频和故事。平台提供多样化的主题和精选作品，帮助用户探索创意灵感。

Project Cover

讯飞文书

讯飞文书依托讯飞星火大模型，为文书写作者提供从素材筹备到稿件撰写及审稿的全程支持。通过录音智记和以稿写稿等功能，满足事务性工作的高频需求，帮助撰稿人节省精力，提高效率，优化工作与生活。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号