热门
导航
快讯
推荐文章
热门
导航
快讯
推荐文章
#Tokenizer
Tokenizer
该项目提供了TypeScript和C#版的字节对编码(BPE)tokenizer,主要用于OpenAI LLMs,并基于开源的Rust实现。适用于Node.js和.NET环境,在传递提示词给LLM前进行tokenization处理。建议C#用户从Microsoft.DeepDev.TokenizerLib迁移至性能更优的Microsoft.ML.Tokenizers。欢迎开发者贡献代码和意见。
tokenizer
Tokenizer是一个纯Go语言实现的自然语言处理分词库,支持Word level、Wordpiece和BPE等多种分词模型。该项目可用于训练新模型或微调现有模型,并兼容HuggingFace预训练模型。Tokenizer为Go开发者提供了构建NLP应用所需的工具,助力高效生产级软件开发。
相关文章
Tokenizer: 高效的文本分词利器
2 个月前
NLP中的Tokenizer:文本分词的关键技术
1 个月前
使用协议
隐私政策
广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI
·
鲁ICP备2024100362号-6
·
鲁公网安备37021002001498号