Logo
Project Icon

text-dedup

文本去重工具集，支持多种去重方法和大规模数据集处理

text-dedupMinHashSimHashBloom FilterRETSimGithub开源项目

项目提供一系列文本去重脚本，适用于各种场景，包括嵌入式去重（RETSim/UniSim）、适合大规模数据集的MinHash + MinHashLSH、64或128位SimHash、后缀数组子串去重、布隆过滤器和精确哈希去重等方法。项目支持高效处理大数据集并计划引入更多去重方法，如SuperMinHash和ProbMinHash等。用户可以根据需求来自定义脚本，灵活应用于不同的文本数据处理场景。

访问官网访问官网GithubGithubHuggingfaceHuggingface文档文档
介绍相关项目
txtai - 集成语义搜索的高效嵌入式数据库解决方案
GithubLLMtxtai大型语言模型嵌入式数据库开源项目语义搜索
txtai是一个功能全面的嵌入式数据库，不仅支持语义搜索和大语言模型协同工作，还提供全流程语言模型任务处理。特色功能包括支持SQL的矢量搜索、主题建模和增强生成检索等。txtai可以在本地运行，也可以通过容器编排进行扩展，并提供多语言API绑定，以便用户快速部署和使用。
simulatrex-engine - 基于大语言模型的模拟决策引擎
API服务GithubLLM模拟Simulatrex决策支持开源项目
Simulatrex-engine是一个基于大语言模型(LLM)的模拟决策引擎，用于生成和分析复杂场景。它提供playground环境用于运行和可视化模拟结果，支持Docker快速部署。项目包含RESTful API接口，方便开发者集成，并通过GitHub平台支持开源社区贡献。Simulatrex-engine具有安装使用指南，支持各种模拟场景的运行和功能扩展。
text2vec - R语言高效文本分析与NLP框架
GithubR软件包text2vec开源项目文本分析自然语言处理高性能计算
text2vec是一个R语言包，为文本分析和自然语言处理提供高效框架和简洁API。该包以C++编写，支持多线程并行处理，具有优秀性能和可扩展性。text2vec提供流式API，无需将全部数据加载到内存。它注重简洁、一致、灵活、快速和内存效率，是文本处理的理想工具。text2vec可用于文本向量化、主题建模、情感分析等任务，为研究人员和数据科学家提供强大的文本处理工具。该项目欢迎社区贡献，包括测试反馈和代码改进。
HDLTex - 层级深度学习提升大规模文本分类效能
GithubHDLTex层次分类开源项目文本分类文档处理深度学习
HDLTex是一种创新的层级深度学习方法，旨在解决大规模文档集合的文本分类难题。该方法采用堆叠式深度学习架构，为文档层次结构的各个层级提供专门化理解。HDLTex通过层级分类方式提升了分类性能，尤其适合类别数量庞大的场景。项目开源了完整实现代码和详尽文档，支持多个标准数据集，并提供pip和git两种便捷安装方式。
HdrHistogram - 高精度动态范围直方图库
GithubHdrHistogramJava开源项目性能监控数据分析直方图
HdrHistogram是一个开源的高动态范围直方图库，用于记录和分析可配置整数范围内的采样数据。它具有高精度、固定内存占用和快速记录特性，适用于延迟和性能敏感应用的统计分析。该库支持多种编程语言，提供多种数据迭代方式，可进行百分位数、均值和标准差等统计分析。
TextDescriptives - 使用spaCy组件进行多维度文本分析
APIGithubPython库TextDescriptivesspaCy开源项目文本指标
TextDescriptives是一个基于Python的库，通过spaCy v.3管道组件和扩展计算多种文本指标。包括详细文档和Jupyter notebook教程，方便用户上手和使用功能。最新2.0版本引入全新API和组件，支持无代码提取指标的web应用。用户可设置不同参数快速提取文本指标，并将结果导出为Pandas DataFrame或字典。适合文本分析入门者，也为高级用户提供深度定制的选项。
benchllm - 简化大语言模型和AI应用的连续集成与测试
BenchLLMGithubLLMPython开源开源项目测试
BenchLLM是一个开源Python库，用于简化大语言模型和AI应用的测试。它提供多种测试和评估方法，包括语义相似度和字符串匹配，并具有缓存功能。BenchLLM支持链、代理和各种LLM模型的测试，有助于消除不稳定因素，确保代码的可靠性。便捷的安装和使用方式使其适用于开发者进行自动化集成和模型评估。
umap - 先进的流形学习和数据降维算法
GithubUMAP开源项目数据可视化机器学习聚类降维
UMAP是一种高效的非线性降维和数据可视化算法。它能处理大规模高维数据,支持多种距离度量,可用于监督和半监督学习。UMAP在保持数据全局结构方面表现优异,运行速度快,理论基础扎实。该项目还包含densMAP功能,可在降维同时保留局部密度信息。作为t-SNE的有力替代,UMAP适用于多种机器学习场景。
diffusiondb - 大规模文本生成图像数据集，促进多领域研究
DiffusionDBGithubStable Diffusion开源项目数据集文本生成图像生成模型
DiffusionDB 是一个大规模文本生成图像数据集，包含1400万张由Stable Diffusion生成的图像，以真实用户的提示和超参数为基础。该数据集为研究生成模型与提示词的关系、检测深度伪造和设计人机交互工具提供了丰富资源，分为 DiffusionDB 2M 和 DiffusionDB Large 两个子集，满足不同需求。模块化的数据集结构使得用户可以高效加载所需部分。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号