#云部署
OpenLLM
OpenLLM为开发者提供一键部署各种开源大型语言模型(LLM)到企业级云环境的解决方案,支持OpenAI兼容的API端点。该项目集成最新的加速解码技术,并提供内置的ChatGPT界面,能够快速实现模型的互动和部署。用户只需简单的命令,即可本地运行或部署到云端,轻松管理和使用各种顶尖LLM,如Llama 3.1、Mistral和Qwen2等。
LLMStack
LLMStack是一个无代码平台,允许构建定制化的生成式AI代理、应用和聊天机器人。用户无需编写代码即可集成数据和内部工具,并连接GPT驱动的模型。平台支持从Slack或Discord触发AI链,并可部署到云端或本地。LLMStack还提供多租户功能,支持创建多个组织和管理用户权限。了解更多,请访问我们的文档页面。
vector-admin
VectorAdmin是一个多用户应用,提供高效的矢量数据管理功能。支持本地和远程托管,适用于管理多种矢量数据库。主要特性包括视图、更新和删除文本块,复制文档或命名空间,直接上传并嵌入新文档,迁移矢量数据库,自动进行回归测试等。此外,VectorAdmin还与API、JavaScript、Python独立客户端及LangChain集成,为用户简化矢量数据管理流程。
weaver
Service Weaver是一个开源编程框架,旨在简化分布式应用的开发、部署和管理流程。该框架支持在本地环境进行应用的运行、测试和调试,并提供单一命令实现云端部署。通过实现从本地到云端的无缝过渡,Service Weaver有助于提升分布式系统的开发效率和可维护性。
pulumi
Pulumi作为开源的基础设施即代码工具,让开发者能用熟悉的编程语言来定义管理云资源。它支持多种主流编程语言和云平台,API设计简洁易用,有助于提高复杂云基础设施的构建部署效率。Pulumi可应用于不同规模的项目,包括简单的无服务器应用和复杂的多云架构等场景。
smoothmq
SmoothMQ是一个开源的SQS替代解决方案,旨在优化开发体验。该项目提供了功能完善的用户界面、可观测性、追踪、消息调度和速率限制等功能。SmoothMQ支持在各类云平台上部署私有SQS实例,采用单个Go二进制文件部署,并保持与现有SQS客户端的兼容性。这一工具为开发团队提供了高效且灵活的消息队列选择。
langgraph-example
LangGraph Cloud Example项目展示了LangGraph库在构建和部署复杂多角色LLM应用方面的实践。该项目提供了一个示例代理,展现了LangGraph构建有状态、多步骤LLM应用的核心功能。开发者可通过LangGraph Cloud将应用快速部署为生产级HTTP微服务,并获得内置的持久性支持。这个示例为开发者提供了入门模板,有助于充分发挥LangGraph的潜力,创建高级AI应用。
partykit
PartyKit是一款简化多人应用开发的工具,使开发者能够专注于构建实时体验。它通过处理操作复杂性和基础设施扩展,让添加多人功能变得轻松。PartyKit提供完整文档和示例,支持快速启动项目,并简化开发部署流程。该项目拥有活跃的社区,持续改进并欢迎开发者参与。
Podaki
Podaki平台利用AI技术,通过自然语言输入生成API和后端代码,简化复杂网站开发流程。它提供开放代码,无供应商锁定,用户可随时访问和控制。平台还负责代码部署、维护和更新,让企业专注业务逻辑。Podaki采用最佳实践,生成可扩展、安全和优化的代码,为网站后端提供高效解决方案。