#API服务器
lms
lms 是一款命令行工具,专为 LM Studio 设计,提供模型管理和本地API服务。用户可以通过简单的命令进行安装、启动和管理模型,并支持GPU加速。无论是查看模型状态、加载和卸载模型,还是创建新项目,lms 都能轻松应对。工具还支持流式日志监控,确保用户对模型运行状态一目了然,是开发者和数据科学家的实用工具。
langcorn
LangCorn利用FastAPI实现高效的LangChain模型和管道部署与管理。主要功能包括便捷的身份验证、高性能请求处理、可扩展的语言处理及异步处理支持。通过pip安装并使用详尽的RESTful API文档,用户可以快速启动。适合高效、可靠的语言处理应用。
llava-cpp-server
LLaVA C++ Server是一个简便的API服务端,实现了llama.cpp的LLaVA功能。使用者可以通过下载模型并启动服务器来本地访问,支持自定义主机、端口和HTTP日志记录。API端点位于/llava,接受用户提示和图像数据,便于图像查询和处理。该项目已在macOS上测试,可通过简单构建步骤在其他平台运行。
raptor
Raptor是一个面向边缘计算的应用开发平台。它提供API服务器端点,支持应用状态查询、端点管理和WebAssembly部署。这个平台允许开发者创建、管理和部署边缘应用,有助于实现分布式计算。Raptor的架构设计适合构建现代化的边缘计算解决方案。
milvus-backup
Milvus-backup 是一款开源的 Milvus 数据备份恢复工具。它通过命令行和 API 服务器接口实现数据操作,在不影响 Milvus 集群性能的前提下执行备份和恢复任务。工具支持简易安装、灵活配置,并提供完整的 API 文档和使用示例,方便用户管理 Milvus 数据。
ara
ARA Records Ansible是一个开源工具,用于记录和分析Ansible运行结果。它可在多种环境中自动捕获ansible和ansible-playbook命令的执行数据,支持SQLite、MySQL和PostgreSQL数据库存储。ARA提供命令行界面、REST API和Web报告界面,便于用户查询和分析Ansible操作。该工具兼容大多数Linux发行版和Mac OS,可与多种Ansible相关工具和CI/CD平台集成,有助于简化Ansible使用流程并提高故障排查效率。
actionhero
Actionhero是一个功能丰富的Node.js API服务器框架,支持多种传输协议如HTTP和WebSocket。它提供了创建可重用和可扩展API的工具,支持静态内容服务和实时通信。该框架具备集群功能、后台任务处理和零停机部署等特性,并通过简洁的Async/Await API管理各类连接和任务。Actionhero适用于构建高性能、可靠的API服务。