Project Icon

openai-style-api

统一大模型API格式与管理,简化API-key分发与配置过程

openai-style-api项目通过统一大模型API格式,支持多种模型如openai、azure、智谱AI、讯飞星火、通义千问等,大幅简化配置和管理。项目支持负载均衡、stream方式调用以及多种代理服务,提高了多模型使用的便捷性和灵活性。

项目介绍:OpenAI-Style-API

OpenAI-Style-API 是一个有助于在多个大型语言模型(LLM)之间实现无缝接口的工具。通过此项目,用户可以在不同的模型之间切换,而不必担心它们各自API的差异,也无需为每个模型单独配置API Key。

项目背景与初衷

OpenAI-Style-API 的开发者意识到,许多对大型语言模型(如OpenAI、Azure AI、讯飞星火等)感兴趣的用户,希望能利用这些模型来完成各种任务,但不同模型的API格式往往不兼容,导致使用这些模型变得相对复杂。因此,项目的核心目标是创建一个统一的API接口,通过OpenAI标准API格式进行调用。这使得API使用者不必再为模型选择、Key管理、参数配置等问题而头疼。

主要功能详述

  • 多模型支持:当前项目已经支持多个知名模型,包括OpenAI、Azure AI、Claude、智谱AI、kimi、bingchat(Copilot)、讯飞星火、Gemini和通义千问等。

  • 参数配置与管理:采用配置文件管理各种模型的参数,用户仅需配置自己的API Key和消息即可大规模调用模型。

  • 负载均衡:通过配置,允许一个Key在多个模型之间进行负载均衡分配,包括轮询、随机和并行等策略。

  • 在线更新与配置:用户可以通过简易的Web界面更新配置,管理起来更加灵活。

  • 路由功能:按model_name进行路由,使得不同请求可轻松对应到不同的模型。

使用方法

Docker 部署

  1. 创建一个 model-config.json 配置文件,具体配置可以参考文档中的示例。

  2. 执行如下命令进行Docker部署:

    docker pull tianminghui/openai-style-api
    
    docker run -d -p 8090:8090 --name openai-style-api\
    -e ADMIN-TOKEN=admin \
    -v /path/to/your/model-config.json:/app/model-config.json \
    tianminghui/openai-style-api
    

    注意: /path/to/your/model-config.json 需替换为自己文件的实际路径。

本地部署

  1. 克隆项目代码并进入目录。

    git clone https://github.com/tian-minghui/openai-style-api.git
    cd openai-style-api
    
  2. 将默认配置文件复制为可编辑的 model-config.json,然后根据需求进行修改。

    cp model-config-default.json model-config.json
    
  3. 安装Python依赖并运行项目。

    pip install -r requirements.txt
    python open-api.py
    

示例代码

项目提供了一些示例代码,帮助用户理解如何使用不同API调用模型,其中包括curl命令的使用和OpenAI库的集成调用示例。

配置文件示例

配置文件采用JSON格式,用于指定不同模型的关联信息,包括API Base URL、API Key和模型配置等。用户可以根据需要自定义各个配置项,如模型名称、API版本等。

贡献与支持

项目欢迎社区内的开发者和爱好者通过提交代码、提出问题(issue)等形式进行贡献。这种开放、协作的开发模式将助力项目的不断完善与发展。

通过OpenAI-Style-API,开发者和企业可以更轻松地集成多个大型语言模型到自己的应用中,从而推动AI创新的实际应用,提供更智能化的用户体验。

项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

白日梦AI

白日梦AI提供专注于AI视频生成的多样化功能,包括文生视频、动态画面和形象生成等,帮助用户快速上手,创造专业级内容。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

讯飞绘镜

讯飞绘镜是一个支持从创意到完整视频创作的智能平台,用户可以快速生成视频素材并创作独特的音乐视频和故事。平台提供多样化的主题和精选作品,帮助用户探索创意灵感。

Project Cover

讯飞文书

讯飞文书依托讯飞星火大模型,为文书写作者提供从素材筹备到稿件撰写及审稿的全程支持。通过录音智记和以稿写稿等功能,满足事务性工作的高频需求,帮助撰稿人节省精力,提高效率,优化工作与生活。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号