#令牌化

Sacremoses是一个支持Python 3的自然语言处理工具包，提供分词、去分词、真字修复和文本规范化功能。支持命令行操作和多进程处理，让大规模文本处理变得更简单。