热门
导航
快讯
推荐文章
热门
导航
快讯
推荐文章
#LLM生产
BricksLLM - 一个用 Go 编写的企业级的云原生AI网关,支持LLM生产环境
BricksLLM
LLM生产
API管理
数据隐私
成本控制
Github
开源项目
BricksLLM是用Go编写的云原生AI网关,支持OpenAI、Anthropic、Azure OpenAI和vLLM。主要功能包括设置使用限额、跟踪使用情况、屏蔽PII、提高可靠性和分配API密钥。适用于企业级基础设施,支持多种部署和集成方式,提供全面的日志记录和隐私控制。
1
1
相关文章
BricksLLM: 企业级AI网关助力LLM生产部署
3 个月前
BricksLLM学习资料汇总 - 企业级API网关助您监控和管理LLM使用
2 个月前
使用协议
隐私政策
广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI
·
鲁ICP备2024100362号-6
·
鲁公网安备37021002001498号