#语言检测
pygtrans
pygtrans是一个基于谷歌翻译API的开源项目。它能自动检测并批量翻译文本与HTML,同时提供文本到语音的转换功能。支持多种代理配置以优化翻译速度,为开发者和研究人员提供快速、准确的翻译服务。
lingua-rs
此库可识别文本语言,适用于自然语言处理中的文本分类和拼写检查。相比其他工具,配置简便,适用于长短文本且准确度高,不使用外部API或服务,完全离线操作。目前支持75种语言,注重高质量检测,通过规则和统计方法实现,无需词典。测试数据显示它是目前最准确的语言检测库之一。
lingua-py
该工具能够高效检测文本所属语言,适用于自然语言处理中的文本分类和拼写检查等预处理步骤。这款灵活的小库在长文本和短文本上都能保持高准确率,不依赖外部API或服务,可完全离线使用。相比其他开源库,具有更高的精度和更低的内存占用,尤其适合处理短文本如微博信息。
xlm-roberta-base-language-detection-onnx
这是一个将xlm-roberta-base转换为ONNX格式的语言检测模型,支持阿拉伯语、中文、英语等20种语言识别。模型通过序列分类技术实现语言检测,并结合Optimum库确保高效运行,适合多语言文本分析场景。
xlm-roberta-europarl-language-detection
此项目在Europarl数据集上细调xlm-roberta-base模型,取得了优异的语言检测性能。模型在不同语言环境下的识别能力接近完美。通过优化器和学习率策略,以及混合精度训练,提升了收敛速度和资源效率。适合作为多语言支持的解决方案,适用于自动翻译和内容分类,助力国际市场业务。
language-detection-fine-tuned-on-xlm-roberta-base
该项目展示了一个基于xlm-roberta-base模型优化的语言检测应用,使用common_language数据集实现了0.9738的高准确率。模型使用Adam优化器和线性学习率调度加快训练过程,混合精度训练提升效率。适用于多语言环境中需要高精度语言分类的场景。
langdetect
langdetect是一个基于XLM-RoBERTa的语言检测模型,支持包括现代和中世纪在内的41种语言。该模型经过微调,专用于文本序列的分类任务,测试集准确率高达99.59%。利用Monasterium和Wikipedia数据集进行训练,确保其在多语言文本分类中的高效表现。该模型适合各种科研和应用场景,满足多语言识别的需求。