chat.petals.dev
本项目提供基于Petals客户端的大语言模型推理Web应用和API接口，包括HTTP和WebSocket端点。用户可通过git克隆项目并按说明在服务器上运行，支持Llama 2模型和Gunicorn部署。项目包含详细的API文档，支持多种生成参数，推荐使用效率更高的WebSocket API。生产环境中建议自行搭建后端以提高稳定性。
