Paddler是一个开源、生产就绪的负载均衡和反向代理工具，专为优化llama.cpp服务器设计。它支持动态添加和移除服务器、自动扩展、请求缓冲、AWS集成以及StatsD协议。Paddler通过监控服务器的可用槽位，实现高效的请求分配，适用于需要可配置和可预测内存分配的环境。