#文本向量化
text2vec - 多模型文本向量化工具,支持多语言文本匹配分析
Github开源项目模型训练BERTText2vec文本向量化文本相似度
text2vec工具实现了多种文本向量表示和相似度计算模型,如Word2Vec、BERT、Sentence-BERT和CoSENT。最新版本增加了多卡推理和命令行工具,方便用户批量处理文本向量化。它在中英文测试集上的表现优秀,尤其新版中文匹配模型在短文本区分上有显著提升。该工具为中文和多语言文本匹配提供了丰富的支持,能够满足各种文本语义分析任务的需求。
retvec - 多语言文本向量化的高效解决方案
Github开源项目TensorFlow多语言文本向量化RETVec对抗性弹性
RETVec是一种创新的文本向量化工具,为高效处理多语言文本而开发。它具有内置的抗干扰能力,可应对各种字符级修改。该工具支持超过100种语言,无需额外的词汇表。RETVec作为一个轻量级组件,可无缝集成到TensorFlow模型中。它同时提供TensorFlow Lite和JavaScript版本,适用于移动设备和网页应用。RETVec在提升模型稳定性的同时,保证了计算效率,是文本处理任务的理想选择。
KeyphraseVectorizers - 基于词性标注的文本关键短语提取库
Github开源项目自然语言处理文本向量化KeyphraseVectorizers关键短语提取文档矩阵
KeyphraseVectorizers是一个Python库,用于从文本文档中提取关键短语。该工具基于词性标注模式提取语法准确的关键短语,无需指定n-gram范围。它可生成文档-关键短语矩阵,支持多语言,并允许自定义词性模式。KeyphraseVectorizers可与BERT和主题建模等技术结合,是一个实用的自然语言处理工具。