#部署

深度学习模型的生产部署实践指南

3 个月前
Cover of 深度学习模型的生产部署实践指南

Cog: 机器学习模型容器化的革新工具

3 个月前
Cover of Cog: 机器学习模型容器化的革新工具

RAG-GPT: 革新智能客服系统的开源解决方案

3 个月前
Cover of RAG-GPT: 革新智能客服系统的开源解决方案

Agenta: 全方位LLM开发平台,助力AI应用高效构建

3 个月前
Cover of Agenta: 全方位LLM开发平台,助力AI应用高效构建

LLM Twin: 构建您的生产级AI复制体

3 个月前
Cover of LLM Twin: 构建您的生产级AI复制体

Cognita: 开源RAG框架助力生产级应用开发

3 个月前
Cover of Cognita: 开源RAG框架助力生产级应用开发

AutoGPT-Next-Web: 在浏览器中部署自主AI代理的革命性工具

3 个月前
Cover of AutoGPT-Next-Web: 在浏览器中部署自主AI代理的革命性工具

LMDeploy: 高效的大语言模型压缩、部署与服务工具包

3 个月前
Cover of LMDeploy: 高效的大语言模型压缩、部署与服务工具包

RWKV-Runner:一款强大的RWKV语言模型管理与启动工具

3 个月前
Cover of RWKV-Runner:一款强大的RWKV语言模型管理与启动工具

AutoTrain Advanced: 简化机器学习模型训练与部署的革命性工具

3 个月前
Cover of AutoTrain Advanced: 简化机器学习模型训练与部署的革命性工具
相关项目
Project Cover

ChatChat

Chat Chat平台提供简洁易用的界面,兼容Anthropic、OpenAI、Cohere和Google Gemini等主要AI提供商,支持用户轻松自我托管。平台提供详细文档和多种部署方式,包括Vercel和Railway。使用AI功能时请注意内容适宜性。

Project Cover

RWKV-Runner

RWKV-Runner项目通过一个轻量级的可执行程序,简化了大型语言模型的使用,并提供与OpenAI API兼容的接口,使每个ChatGPT客户端都能作为RWKV客户端使用。项目支持多语言本地化,提供用户友好界面,自动安装依赖,包含一键启动、模型管理、前后端分离等功能。支持多级VRAM配置和CUDA加速,适用于大多数计算机。提供简单的部署示例、内置模型转换工具和远程模型检查功能。

Project Cover

project_openai_codex

了解如何构建和部署专用的ChatGPT AI应用,该应用可协助进行代码编写。课程涵盖Next.js 13开发,并提供项目为基础的辅导,助力开发职业生涯。

Project Cover

langflow

Langflow是一个开源的视觉框架,使用Python驱动,并完全可定制。这一框架支持构建多代理和富响应生成(RAG)应用,不特定于LLM和向量存储系统。通过提供高度交互的组件界面,用户可以轻松设计和部署其应用,而无需担心底层配置。无论是在Hugging Face Spaces还是Google Cloud Platform上,Langflow均可快速部署,并支持从JSON文件加载和运行应用。此外,Langflow还支持命令行界面(CLI),为开发人员提供了额外的灵活性和控制力。

Project Cover

AutoGPT-Next-Web

免费一键部署,使用Vercel快速搭建AutoGPT网页应用。优化本地化,中文输入即时显示。响应式设计支持多设备,绑定自定义域名和访问控制。支持Docker及多种部署方案,轻松创建和管理AutoGPT网站。

Project Cover

lmdeploy

LMDeploy是由MMRazor和MMDeploy团队开发的工具包,专注于LLM的压缩、部署和服务。它提供高效的推理性能、有效的量化方法和便捷的分布式服务,显著提升请求吞吐量。支持多种量化方式和多模型服务,兼容性强。最新版本集成了TurboMind和PyTorch推理引擎,支持多种LLMs和VLMs模型,降低开发者的技术门槛。

Project Cover

agenta

Agenta是一个开源的LLM开发平台,提供完备的工具和功能,包括提示工程、评估、人类注释和部署。它允许在不受框架、库或模型限制的环境中进行开发,支持各类LLM应用架构,如单一提示、RAG和代理架构。Agenta适用于所有级别的开发者,能够协助有效构建和部署生产级LLM应用。

Project Cover

cognita

Cognita整合了Langchain和LlamaIndex技术,提供了一套模块化且API驱动的RAG组件和无代码UI,适合本地及生产环境使用。新功能包括内置Metadatastore、Docker Compose快速部署及多样化的嵌入和重排序服务。此平台使得用户无需代码即可管理文档和实施QnA,优化了试验和部署的效率。

Project Cover

autotrain-advanced

AutoTrain Advanced 是一款无代码解决方案,只需几次点击即可训练机器学习模型。需要上传正确格式的数据以创建项目,关于数据格式和定价的详细信息请查阅文档。AutoTrain 免费使用,只需为使用的资源付费。支持在 Colab 和 Hugging Face Spaces 上运行,也可以通过 PIP 本地安装。适用于 Python 3.10 及以上版本,推荐在 Conda 环境中运行。更多信息请访问项目文档页面。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号