Logo

#API管理

One API 学习资料汇总 - OpenAI 接口管理与分发系统

1 个月前
Cover of One API 学习资料汇总 - OpenAI 接口管理与分发系统

One API:统一管理和分发多种大语言模型的开源解决方案

2 个月前
Cover of One API:统一管理和分发多种大语言模型的开源解决方案

BricksLLM学习资料汇总 - 企业级API网关助您监控和管理LLM使用

1 个月前
Cover of BricksLLM学习资料汇总 - 企业级API网关助您监控和管理LLM使用

BricksLLM: 企业级AI网关助力LLM生产部署

2 个月前
Cover of BricksLLM: 企业级AI网关助力LLM生产部署

相关项目

Project Cover
BricksLLM
BricksLLM是用Go编写的云原生AI网关,支持OpenAI、Anthropic、Azure OpenAI和vLLM。主要功能包括设置使用限额、跟踪使用情况、屏蔽PII、提高可靠性和分配API密钥。适用于企业级基础设施,支持多种部署和集成方式,提供全面的日志记录和隐私控制。
Project Cover
one-api
One API 提供了与 OpenAI、Anthropic Claude、Google PaLM2 等多大模型的兼容性,支持多机部署、令牌管理和用户分组功能。作为一个开源且可定制的项目,One API 简化了大模型的集成与管理流程,适合需要高可用性和可扩展性的开发场景。
Project Cover
fastapi
智元 Fast API 是一个一站式API管理系统,通过统一格式和规范管理多种LLM API,确保功能和性能达到最佳状态。支持OpenAI、百度、阿里云等公司的模型,具有Completion和Image功能。提供易用的用户端和管理端演示,支持集群、多地和跨区部署,并且可以通过Docker轻松安装。适用于各种LLM API使用场景,提升效率与用户体验。
Project Cover
apk
APK是基于Kubernetes的开源API管理平台,利用原生特性实现自动扩展。它采用Envoy技术作为网关核心,提供微服务架构和控制面数据面分离。APK支持GitOps,集成Kubernetes服务网络,为云原生环境提供API管理。该平台具备API市场功能,促进API共享和重用,注重治理与管理效率。
Project Cover
Portkey.ai
Portkey.ai作为AI应用控制平台,为企业提供全面的LLMOps解决方案。平台支持生成式AI应用的快速开发、部署和迭代,显著提升开发效率和应用性能。核心功能包括prompt管理、性能分析和成本优化,帮助开发者深入了解并改进AI模型。Portkey.ai以其高可用性、低延迟和安全性,成为AI应用开发和运维的可靠选择。
Project Cover
Release AI
Release AI是一款专业的API管理智能平台。它自动追踪记录API变更,生成标准化发布说明,简化团队协作。支持多种格式输出,集成电子邮件和Slack等工具,可自定义发布周期。该平台提高开发效率,增强产品管理,改善沟通,适合API驱动的企业使用。
Project Cover
otoroshi
Otoroshi是MAIF OSS团队开发的开源轻量级API管理层和HTTP反向代理。基于Scala语言,集成akka和playframework,实现无服务定位器的微服务调用处理。支持动态配置更新,提供灵活API管理。适用于复杂分布式系统,增强微服务治理能力。
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号