llama-tokenizer-js
Llama-tokenizer-js 是一款JavaScript客户端分词器,适用于LLaMA 1和LLaMA 2模型,并支持TypeScript。该工具无依赖、易于使用,专为客户端准确计算token数量设计。利用优化的BPE算法实现高效运行时间和小巧包大小。支持浏览器和Node环境,并提供便捷的demo和详细使用说明。