ucall
UCall是一个基于JSON-RPC的远程过程调用库,性能显著优于FastAPI和gRPC。该库支持原生类型及numpy数组、PIL图像等自定义类型,适用于实际应用开发和多模态AI部署。UCall通过io_uring实现高效IO,并采用SIMD加速解析,即使在免费层服务器上也能实现卓越性能。此外,UCall还提供了简洁的Python接口和命令行工具,大大简化了远程调用过程。