aici
AICI提供了一个灵活的大型语言模型(LLM)输出控制平台,允许开发者通过自定义逻辑实时监控和调整模型输出。支持本地和云端部署,基于WebAssembly实现高安全性和高性能,支持多种编程语言,确保与多种LLM引擎如llama.cpp和HuggingFace Transformers的兼容。
kubebuilder
Kubebuilder是一个基于自定义资源定义(CRDs)构建Kubernetes API的框架。它提供简洁抽象和实用工具,加快Kubernetes API的开发和发布过程。框架采用插件架构,开发者可选用辅助功能,有效提升效率并简化开发流程。