Logo
Project Icon

fastapi

一站式LLM API管理系统，提升用户体验与性能

智元FastAPILLMAPI管理模型支持部署方式Github开源项目

智元 Fast API 是一个一站式API管理系统，通过统一格式和规范管理多种LLM API，确保功能和性能达到最佳状态。支持OpenAI、百度、阿里云等公司的模型，具有Completion和Image功能。提供易用的用户端和管理端演示，支持集群、多地和跨区部署，并且可以通过Docker轻松安装。适用于各种LLM API使用场景，提升效率与用户体验。

访问官网访问官网GithubGithub文档文档
介绍相关项目
WebAI-to-API - 自托管API整合Google Gemini和Claude 3的统一接口方案
APIClaude 3FastAPIGithubGoogle GeminiWebAI开源项目
WebAI-to-API是一个研究性项目，为Google Gemini和Claude 3等AI模型提供统一的Web API接口。该项目支持自托管部署，具备实时流式响应功能，基于FastAPI构建，轻量且可扩展。无需API密钥即可使用，并提供Web UI配置界面。此项目适合追求灵活、高性能AI接口的开发者和研究人员。
fastn - AI开发者API编排与集成平台
AI工具API集成fastn开发效率数据编排无代码平台
fastn是一个AI驱动的API编排平台,可将多个数据源整合为统一API。平台支持连接各类数据流,创建应用集成。通过预构建连接器、通用API集成和AI辅助自动化,fastn简化开发流程,缩短上市时间。平台提供实时监控、日志记录和流程可视化功能,保证API准确性和可扩展性。fastn致力于帮助开发者构建互联生态系统,降低开发成本,提升工作效率。
FastAPI-Production-Boilerplate - FastAPI生产级项目模板 快速构建可扩展应用
FastAPIGithub开源项目异步能力数据库迁移生产模板认证授权
FastAPI-Production-Boilerplate是一个功能完备的FastAPI项目模板。它采用分层架构和模块化设计，支持异步操作、数据库迁移、身份认证、权限控制、缓存和后台任务处理。该模板还集成了测试套件、类型检查和Docker支持，为开发者提供了一个高效、可扩展的FastAPI应用开发环境。
free-one-api - 简化对LLM逆向工程库的访问的服务
GithubLLM逆向工程库OpenAI APIWeb UIfree-one-api开源项目自动负载均衡
free-one-api是一个免费的，基于OpenAI API标准的工具，提供了一个可访问多个LLM逆向工程库的用户友好界面。此项目支持多种功能，如自动负载均衡、心跳检测与日志记录等，确保操作稳定与高效。兼容songquanpeng的one-api项目，增添更多的灵活性和选择性。
one-api - 多大模型一站式接入与管理解决方案
API管理Docker部署GithubOne APIOpenAI大模型开源项目
One API 提供了与 OpenAI、Anthropic Claude、Google PaLM2 等多大模型的兼容性，支持多机部署、令牌管理和用户分组功能。作为一个开源且可定制的项目，One API 简化了大模型的集成与管理流程，适合需要高可用性和可扩展性的开发场景。
shipfast - 免费的生成式AI和大型语言模型SaaS源码库
AI服务DjangoGenerative AIGithubReactShipFast开源项目
ShipFast是一个免费的SaaS源码库，专注于生成式人工智能（GenAI）、大型语言模型（LLM）及其他AI服务。项目功能包括账户管理、订阅管理、内容管理系统（CMS）、OpenAI API 集成和业务想法生成器。未来更新计划包含角色聊天、文档聊天、AI写作助手、AI图像生成和图像搜索引擎。前端采用React与GraphQL，后端基于Python和Django，部署在AWS基础设施上。项目正在开发中，欢迎关注最新动态。
fastapi-mvc - FastAPI应用开发的高效MVC框架
FastAPIGithubMVC框架Python开发Web应用代码生成器开源项目
fastapi-mvc是一个基于MVC架构的FastAPI开发工具，集成了WSGI+ASGI服务器、自动化文档和测试等功能。它提供Kubernetes部署支持、代码生成器和Poetry依赖管理，简化了FastAPI应用的开发流程。该工具适合各层次的开发者，能有效提高FastAPI项目的开发效率。
OpenLLM - 一键部署开源LLM，支持企业级云部署和OpenAI兼容API
GithubOpenAI兼容APIOpenLLM云部署开源项目热门自托管LLM量化模型
OpenLLM为开发者提供一键部署各种开源大型语言模型(LLM)到企业级云环境的解决方案，支持OpenAI兼容的API端点。该项目集成最新的加速解码技术，并提供内置的ChatGPT界面，能够快速实现模型的互动和部署。用户只需简单的命令，即可本地运行或部署到云端，轻松管理和使用各种顶尖LLM，如Llama 3.1、Mistral和Qwen2等。
api-for-open-llm - 开源大模型的统一后端接口
GithubOpenAI ChatGPT API大语言模型嵌入模型开源项目模型支持环境变量
api-for-open-llm提供多种开源大模型的后端统一接口，以OpenAI ChatGPT API格式调用支持，如LLaMA、Baichuan等。支持流式响应、文字嵌入等功能，适用于多种应用需求。环境配置简洁，便于快速部署。
fastapi-observability - FastAPI 应用的全栈可观察性监控方案
FastAPIGithubGrafanaOpenTelemetry可观测性开源项目微服务
该项目为 FastAPI 应用提供完整的可观察性解决方案。通过整合 Grafana 生态系统，包括 Tempo 用于分布式追踪、Prometheus 进行指标收集和 Loki 处理日志管理，实现了追踪、指标和日志三大可观察性支柱的协同。项目详细介绍了 OpenTelemetry 工具的配置、自定义指标的创建方法，以及在 Grafana 中实现跨服务追踪可视化的技术细节。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号