#JTokkit

JTokkit是一个专为OpenAI模型设计的Java分词库，提供便捷的API，支持多种编码和解码算法如r50k_base和cl100k_base。该库无依赖，兼容Java 8及以上版本，并具备高效性能。用户可以通过Maven或Gradle轻松安装，并支持自定义编码算法。使用JTokkit，开发者能够轻松进行自然语言处理任务中的文本分词和令牌计算。