#API管理

One API 学习资料汇总 - OpenAI 接口管理与分发系统

2024年09月10日
Cover of One API 学习资料汇总 - OpenAI 接口管理与分发系统

BricksLLM学习资料汇总 - 企业级API网关助您监控和管理LLM使用

2024年09月10日
Cover of BricksLLM学习资料汇总 - 企业级API网关助您监控和管理LLM使用

One API:统一管理和分发多种大语言模型的开源解决方案

2024年08月30日
Cover of One API:统一管理和分发多种大语言模型的开源解决方案

BricksLLM: 企业级AI网关助力LLM生产部署

2024年08月30日
Cover of BricksLLM: 企业级AI网关助力LLM生产部署
相关项目
Project Cover

BricksLLM

BricksLLM是用Go编写的云原生AI网关,支持OpenAI、Anthropic、Azure OpenAI和vLLM。主要功能包括设置使用限额、跟踪使用情况、屏蔽PII、提高可靠性和分配API密钥。适用于企业级基础设施,支持多种部署和集成方式,提供全面的日志记录和隐私控制。

Project Cover

one-api

One API 提供了与 OpenAI、Anthropic Claude、Google PaLM2 等多大模型的兼容性,支持多机部署、令牌管理和用户分组功能。作为一个开源且可定制的项目,One API 简化了大模型的集成与管理流程,适合需要高可用性和可扩展性的开发场景。

Project Cover

fastapi

智元 Fast API 是一个一站式API管理系统,通过统一格式和规范管理多种LLM API,确保功能和性能达到最佳状态。支持OpenAI、百度、阿里云等公司的模型,具有Completion和Image功能。提供易用的用户端和管理端演示,支持集群、多地和跨区部署,并且可以通过Docker轻松安装。适用于各种LLM API使用场景,提升效率与用户体验。

Project Cover

apk

APK是基于Kubernetes的开源API管理平台,利用原生特性实现自动扩展。它采用Envoy技术作为网关核心,提供微服务架构和控制面数据面分离。APK支持GitOps,集成Kubernetes服务网络,为云原生环境提供API管理。该平台具备API市场功能,促进API共享和重用,注重治理与管理效率。

Project Cover

Portkey.ai

Portkey.ai作为AI应用控制平台,为企业提供全面的LLMOps解决方案。平台支持生成式AI应用的快速开发、部署和迭代,显著提升开发效率和应用性能。核心功能包括prompt管理、性能分析和成本优化,帮助开发者深入了解并改进AI模型。Portkey.ai以其高可用性、低延迟和安全性,成为AI应用开发和运维的可靠选择。

Project Cover

Release AI

Release AI是一款专业的API管理智能平台。它自动追踪记录API变更,生成标准化发布说明,简化团队协作。支持多种格式输出,集成电子邮件和Slack等工具,可自定义发布周期。该平台提高开发效率,增强产品管理,改善沟通,适合API驱动的企业使用。

Project Cover

otoroshi

Otoroshi是MAIF OSS团队开发的开源轻量级API管理层和HTTP反向代理。基于Scala语言,集成akka和playframework,实现无服务定位器的微服务调用处理。支持动态配置更新,提供灵活API管理。适用于复杂分布式系统,增强微服务治理能力。

Project Cover

janus

Janus是一个Go语言开发的API网关和管理平台,用于控制API访问。它具备热重载配置、分布式追踪、HTTP/2支持、断路器、重试机制、速率限制和多种认证协议等功能。Janus采用单一二进制文件设计,无外部依赖,便于部署和管理,适合构建和维护API生态系统。

Project Cover

apisix-dashboard

Apache APISIX Dashboard 是 Apache APISIX 的可视化管理工具,提供独立的控制平面和完整的参数验证。它简化了 APISIX 的配置和管理,支持 Docker 部署,可与 APISIX Ingress Controller 集成。这是一个开源项目,使用 Apache License 2.0 许可证。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号