#API服务器

Langcorn学习资料汇总 - 轻松部署LangChain模型和管道的API服务器

2024年09月10日
Cover of Langcorn学习资料汇总 - 轻松部署LangChain模型和管道的API服务器

LMS入门指南 - 功能强大的LM Studio命令行工具

2024年09月10日
Cover of LMS入门指南 - 功能强大的LM Studio命令行工具

Milvus Backup: 保护和恢复您的 Milvus 数据

2024年09月04日
Cover of Milvus Backup: 保护和恢复您的 Milvus 数据

LLaVA-cpp-server: 一个基于llama.cpp的高效多模态AI服务器实现

2024年08月31日
Cover of LLaVA-cpp-server: 一个基于llama.cpp的高效多模态AI服务器实现

LangCorn: 轻松部署LangChain模型和管道的API服务器

2024年08月30日
Cover of LangCorn: 轻松部署LangChain模型和管道的API服务器
相关项目
Project Cover

lms

lms 是一款命令行工具,专为 LM Studio 设计,提供模型管理和本地API服务。用户可以通过简单的命令进行安装、启动和管理模型,并支持GPU加速。无论是查看模型状态、加载和卸载模型,还是创建新项目,lms 都能轻松应对。工具还支持流式日志监控,确保用户对模型运行状态一目了然,是开发者和数据科学家的实用工具。

Project Cover

langcorn

LangCorn利用FastAPI实现高效的LangChain模型和管道部署与管理。主要功能包括便捷的身份验证、高性能请求处理、可扩展的语言处理及异步处理支持。通过pip安装并使用详尽的RESTful API文档,用户可以快速启动。适合高效、可靠的语言处理应用。

Project Cover

llava-cpp-server

LLaVA C++ Server是一个简便的API服务端,实现了llama.cpp的LLaVA功能。使用者可以通过下载模型并启动服务器来本地访问,支持自定义主机、端口和HTTP日志记录。API端点位于/llava,接受用户提示和图像数据,便于图像查询和处理。该项目已在macOS上测试,可通过简单构建步骤在其他平台运行。

Project Cover

raptor

Raptor是一个面向边缘计算的应用开发平台。它提供API服务器端点,支持应用状态查询、端点管理和WebAssembly部署。这个平台允许开发者创建、管理和部署边缘应用,有助于实现分布式计算。Raptor的架构设计适合构建现代化的边缘计算解决方案。

Project Cover

milvus-backup

Milvus-backup 是一款开源的 Milvus 数据备份恢复工具。它通过命令行和 API 服务器接口实现数据操作,在不影响 Milvus 集群性能的前提下执行备份和恢复任务。工具支持简易安装、灵活配置,并提供完整的 API 文档和使用示例,方便用户管理 Milvus 数据。

Project Cover

ara

ARA Records Ansible是一个开源工具,用于记录和分析Ansible运行结果。它可在多种环境中自动捕获ansible和ansible-playbook命令的执行数据,支持SQLite、MySQL和PostgreSQL数据库存储。ARA提供命令行界面、REST API和Web报告界面,便于用户查询和分析Ansible操作。该工具兼容大多数Linux发行版和Mac OS,可与多种Ansible相关工具和CI/CD平台集成,有助于简化Ansible使用流程并提高故障排查效率。

Project Cover

actionhero

Actionhero是一个功能丰富的Node.js API服务器框架,支持多种传输协议如HTTP和WebSocket。它提供了创建可重用和可扩展API的工具,支持静态内容服务和实时通信。该框架具备集群功能、后台任务处理和零停机部署等特性,并通过简洁的Async/Await API管理各类连接和任务。Actionhero适用于构建高性能、可靠的API服务。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号