#kani

kani是一个轻量且高度可定制的聊天语言模型框架，适用于自然语言处理研究人员、爱好者和开发人员。kani支持OpenAI和Anthropic等多种托管模型，以及通过Hugging Face和llama.cpp支持的开源模型。kani提供无缝的聊天记忆管理、函数调用、提示控制和异步设计功能。此外，开发者可以快速迭代并方便地学习使用kani框架。