subword-nmt

神经机器翻译子词分割预处理工具

subword-nmt是一个文本子词分割预处理工具，主要应用于神经机器翻译领域。它实现了字节对编码(BPE)等算法，具备多语言联合学习、词汇过滤和BPE dropout等功能。该工具支持pip安装，提供命令行接口，适用于各类NMT任务，可有效处理罕见词。

Github

文档

论文

介绍相关项目

sentencepiece - 无监督神经网络文本分词与去分词工具

GithubSentencePiece分词子词单元开源项目机器翻译自然语言处理

SentencePiece是一种用于神经网络文本生成系统的无监督分词工具。它支持多种子词算法,如BPE和unigram语言模型,可直接从原始文本训练。这个工具具有语言无关性,实现了子词正则化,运行速度快,占用资源少。SentencePiece能直接生成词汇ID序列,执行NFKC标准化,是一个完全端到端的系统,无需依赖特定语言的预处理或后处理。

bpemb - 基于BPE技术的多语言预训练子词嵌入，用于自然语言处理

BPEmbByte-Pair EncodingGithub子词嵌入开源项目神经网络自然语言处理

BPEmb使用Byte-Pair Encoding (BPE)技术，为275种语言提供训练好的子词嵌入，训练数据来自Wikipedia。该项目为神经网络在自然语言处理任务中提供输入。用户可以通过pip安装BPEmb，并自动下载所需的嵌入和SentencePiece模型。BPEmb支持子词分段和预训练子词嵌入，适用于多种语言处理任务，具有多种词汇表大小选择，以满足不同应用需求。

bytepiece - 创新高效的字节级Unigram分词工具

BytePieceGithubPythonUnigram分词器压缩率开源项目

BytePiece是一款基于字节的Unigram分词工具，采用创新训练算法实现高压缩率。该工具直接处理UTF-8字节，无需预处理，确保语言无关性。相比SentencePiece，BytePiece具有更高效的随机分词算法，支持多进程训练加速，并采用纯Python实现，便于二次开发。这一工具为自然语言处理提供了纯粹、易扩展的分词方案。

OpenNMT-py - 开源的神经机器翻译与大型语言模型框架

EoleGithubLLM支持Neural Machine TranslationOpenNMT-pyPyTorch开源项目

OpenNMT-py是基于PyTorch的开源神经机器翻译和语言模型框架，适用于研究和生产。支持大语言模型转换、量化以及多GPU并行。提供教程、文档和社区支持，适合翻译、总结等多种NLP任务。最新版本引入了多查询注意力机制和线性去偏等新功能。

tiktoken - 为OpenAI模型优化的高性能BPE分词器

BPEGithubOpenAItiktoken分词器开源项目性能优化

tiktoken是一款为OpenAI模型优化的BPE分词器。该工具提供快速的文本编码和解码功能，支持多种编码方式，易于集成到Python项目中。相较于其他开源分词器，tiktoken的性能提升了3-6倍。除了标准功能外，tiktoken还包含教育性子模块，有助于理解BPE算法原理。此外，该工具支持自定义扩展，可满足特定应用需求。

Tokenizer - 跨平台BPE编码实现

C#GithubOpenAITokenizationTokenizerTypescript开源项目

该项目提供了TypeScript和C#版的字节对编码(BPE)tokenizer，主要用于OpenAI LLMs，并基于开源的Rust实现。适用于Node.js和.NET环境，在传递提示词给LLM前进行tokenization处理。建议C#用户从Microsoft.DeepDev.TokenizerLib迁移至性能更优的Microsoft.ML.Tokenizers。欢迎开发者贡献代码和意见。

AutoSub - 开源视频自动字幕生成工具

AutoSubGithub字幕生成开源工具开源项目语音识别音频处理

AutoSub是一款开源命令行工具，能够为视频自动生成多种格式的字幕文件。它集成了Mozilla DeepSpeech和Coqui STT语音识别技术，结合pyAudioAnalysis音频分析库，实现了高效的音频分割和文字转换。该工具支持多语言处理，可满足不同类型视频的字幕需求。

joeynmt - 简洁而清晰的NMT模型实现，促进教育和学习

GRUGithubJoey NMTPyTorchTransformer开源项目机器翻译

Joey NMT框架专为教育而设计，提供简明和清晰的代码库，帮助初学者理解RNN和Transformer等经典NMT架构。其主要特点包括模块化设计，便于修改组件及训练流程，保持代码可读性。支持多个注意力机制、不同的分词类型和多语种翻译，包含详细的文档和教程，适用于模型训练、测试和翻译的各个阶段。最新版本引入分布式数据并行和多项优化，兼容最新的Python和PyTorch版本。

tiktoken-go - BPE分词工具，兼容多种OpenAI模型

BPE词典GithubOpenAItiktoken-go开源项目模型编码

tiktoken-go是一个高效的BPE分词器，适用于OpenAI的多种模型。作为原版tiktoken在Go语言中的实现，它提供了与原库一致的缓存机制和多种加载选项，包括离线加载器，便于快速使用和自定义实现。项目包含详细的使用示例，涵盖各种编码和模型，以及性能测试结果，展示了其出色的性能表现。

OPUS-MT-train - 用于训练多语言神经机器翻译模型的开源工具集

GithubOpus-MT多语言翻译开源软件开源项目机器翻译模型训练

OPUS-MT-train是一个开源的神经机器翻译模型训练工具集。它基于MarianNMT和OPUS数据集，提供了模型训练、评估和发布的完整脚本。该项目包含丰富的预训练模型，支持多语言翻译，并附有详细文档和教程。OPUS-MT-train适用于CSC HPC集群环境，包含了安装、设置和使用的详细说明。它还提供了低资源语言模型训练和Tatoeba翻译挑战等教程，致力于推动神经机器翻译技术的普及，为研究人员和开发者提供了实用的工具，有助于推进神经机器翻译技术的研究和应用。

相关项目

推荐项目

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

稿定AI

稿定设计是一个多功能的在线设计和创意平台，提供广泛的设计工具和资源，以满足不同用户的需求。从专业的图形设计师到普通用户，无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑，稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合，帮助用户轻松实现创意设计。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com