#API管理
BricksLLM - 一个用 Go 编写的企业级的云原生AI网关,支持LLM生产环境
BricksLLMLLM生产API管理数据隐私成本控制Github开源项目
BricksLLM是用Go编写的云原生AI网关,支持OpenAI、Anthropic、Azure OpenAI和vLLM。主要功能包括设置使用限额、跟踪使用情况、屏蔽PII、提高可靠性和分配API密钥。适用于企业级基础设施,支持多种部署和集成方式,提供全面的日志记录和隐私控制。
one-api - 多大模型一站式接入与管理解决方案
One API大模型Docker部署OpenAIAPI管理Github开源项目
One API 提供了与 OpenAI、Anthropic Claude、Google PaLM2 等多大模型的兼容性,支持多机部署、令牌管理和用户分组功能。作为一个开源且可定制的项目,One API 简化了大模型的集成与管理流程,适合需要高可用性和可扩展性的开发场景。
fastapi - 一站式LLM API管理系统,提升用户体验与性能
智元FastAPILLMAPI管理模型支持部署方式Github开源项目
智元 Fast API 是一个一站式API管理系统,通过统一格式和规范管理多种LLM API,确保功能和性能达到最佳状态。支持OpenAI、百度、阿里云等公司的模型,具有Completion和Image功能。提供易用的用户端和管理端演示,支持集群、多地和跨区部署,并且可以通过Docker轻松安装。适用于各种LLM API使用场景,提升效率与用户体验。
apk - 为Kubernetes打造的云原生API管理解决方案
API管理KubernetesAPK微服务架构开源Github开源项目
APK是基于Kubernetes的开源API管理平台,利用原生特性实现自动扩展。它采用Envoy技术作为网关核心,提供微服务架构和控制面数据面分离。APK支持GitOps,集成Kubernetes服务网络,为云原生环境提供API管理。该平台具备API市场功能,促进API共享和重用,注重治理与管理效率。
Portkey.ai - AI应用开发与管理的全方位控制平台
AI工具PortkeyAI应用性能分析智能缓存API管理
Portkey.ai作为AI应用控制平台,为企业提供全面的LLMOps解决方案。平台支持生成式AI应用的快速开发、部署和迭代,显著提升开发效率和应用性能。核心功能包括prompt管理、性能分析和成本优化,帮助开发者深入了解并改进AI模型。Portkey.ai以其高可用性、低延迟和安全性,成为AI应用开发和运维的可靠选择。
Release AI - 智能API变更追踪及发布说明自动生成平台
AI工具Release AIAPI变更发布说明AI生成API管理
Release AI是一款专业的API管理智能平台。它自动追踪记录API变更,生成标准化发布说明,简化团队协作。支持多种格式输出,集成电子邮件和Slack等工具,可自定义发布周期。该平台提高开发效率,增强产品管理,改善沟通,适合API驱动的企业使用。
otoroshi - 基于Scala的轻量级API管理与HTTP反向代理
OtoroshiAPI管理HTTP反向代理微服务ScalaGithub开源项目
Otoroshi是MAIF OSS团队开发的开源轻量级API管理层和HTTP反向代理。基于Scala语言,集成akka和playframework,实现无服务定位器的微服务调用处理。支持动态配置更新,提供灵活API管理。适用于复杂分布式系统,增强微服务治理能力。
相关文章