#HTTP API
Petals: 革命性的分布式大语言模型运行平台
3 个月前
相关项目
chatgpt-mirai-qq-bot
chatgpt-mirai-qq-bot是一个多功能的聊天机器人项目,支持Mirai、Telegram、Discord等多平台。它集成了多种聊天模式,包括文字RPG、生活助手等,能够进行图片发送、关键词触发回复等多种互动。此外,项目还提供HTTP API支持,并有详细的使用教程和快速部署方案,帮助用户快速搭建和使用。针对开发者,还设置有多个技术交流群组,便于问题解答和功能拓展。
chat.petals.dev
本项目提供基于Petals客户端的大语言模型推理Web应用和API接口,包括HTTP和WebSocket端点。用户可通过git克隆项目并按说明在服务器上运行,支持Llama 2模型和Gunicorn部署。项目包含详细的API文档,支持多种生成参数,推荐使用效率更高的WebSocket API。生产环境中建议自行搭建后端以提高稳定性。
addok
Addok是一款开源的地址搜索引擎,提供地址数据索引和HTTP API全文检索功能。它支持插件扩展,具有高度灵活性。该项目在法国政府部门的实际应用中,可处理约2600万条地址数据,每秒执行2000次搜索查询。Addok基于Python和Redis开发,提供完善的文档支持,为开发者提供了高效可靠的地址搜索解决方案。