BricksLLM
BricksLLM是用Go编写的云原生AI网关,支持OpenAI、Anthropic、Azure OpenAI和vLLM。主要功能包括设置使用限额、跟踪使用情况、屏蔽PII、提高可靠性和分配API密钥。适用于企业级基础设施,支持多种部署和集成方式,提供全面的日志记录和隐私控制。