#llama-tokenizer-js

Llama-tokenizer-js 是一款JavaScript客户端分词器，适用于LLaMA 1和LLaMA 2模型，并支持TypeScript。该工具无依赖、易于使用，专为客户端准确计算token数量设计。利用优化的BPE算法实现高效运行时间和小巧包大小。支持浏览器和Node环境，并提供便捷的demo和详细使用说明。