tanuki.py
Tanuki是一个Python库,轻松调用LLM替代传统函数,实现无状态、可靠且类型安全的函数。通过自动模型蒸馏,使用越频繁,成本和延迟越低。Tanuki支持多种流行模型,并提供RAG嵌入支持,是构建高效、低成本LLM应用的理想选择。