#API部署
chatgptProxyAPI - OpenAI API的高效中转与部署解决方案
OpenAICloudflare WorkerCloudflare Pages微信机器人API部署Github开源项目
通过Cloudflare Worker和CloudFlare Pages部署OpenAI中转API,提供详细的教程,帮助用户实现高效稳定的自部署。该项目支持通过Docker部署及多种编程语言的集成,适合大规模API使用需求,并提供微信机器人集成方案。
llama3-Chinese-chat - llama3中文版上线,提供多样化微调和部署选项
llama3中文化模型训练微调API部署Github开源项目
llama3中文版本发布,提供丰富中文对话数据集和多种微调选项(如DPO、SFT、RLHF)。项目包含详细的API部署教程、本地LMStudio教程和vLLM云端部署方式,适用于不同用户需求。欢迎加入,完善中文AI模型。
marker-api - 高效精准的PDF到Markdown转换工具
PDF转MarkdownMarker API文档转换OCRAPI部署Github开源项目
Marker API是一款性能卓越的PDF转Markdown工具,支持多语言和多种文档类型。该工具能精准提取文本、表格、代码块和图片,通过深度学习模型实现高速转换,尤其适用于学术论文、技术文档等复杂PDF的转换。与同类产品相比,转换速度提升4倍。Marker API部署简便,适用于GPU和CPU环境,为PDF文档处理提供灵活选择。
Langtail - 简化AI应用开发的综合性工具平台
AI工具LangtailAI开发提示词调试LLM监控API部署
Langtail是一个面向AI应用开发的工具平台,集成了提示调试、测试运行和生产环境监控功能。平台提供playground、测试、部署和监控工具,帮助开发者快速迭代、优化大型语言模型性能,确保应用稳定。支持无代码操作,适用于各类用户,并提供API日志和性能指标,促进团队协作开发AI应用。
stable-diffusion-multi-user - 基于Stable Diffusion的多用户AI绘图服务器部署方案
Stable Diffusion多用户API部署负载均衡GPU服务器Github开源项目
这是一个基于Stable Diffusion的多用户AI绘图服务器项目,提供自动扩展、负载均衡和WebUI扩展API支持。项目包含Django API、Runpod Serverless和Replicate三种部署方案,支持多用户队列、模型切换、civitai模型和Lora等功能。开发者可以基于此项目构建自定义UI、社区功能和账户系统。
bespoke_automata - 图形化设计和部署AI代理的开源工具
Bespoke AutomataAI代理API部署大语言模型节点图界面Github开源项目
Bespoke Automata是一个开源的AI代理开发工具,通过图形界面简化了复杂AI系统的设计过程。它整合了本地和远程语言模型、数据库操作、逻辑处理和API调用等功能,使开发者能够创建自定义AI代理。该工具支持单一API部署,兼容多种硬件平台,并可选择GPU加速,为AI项目开发提供了灵活的解决方案。作为开源项目,Bespoke Automata为AI开发社区提供了一个灵活且可扩展的开发环境。
相关文章