AI Horde 项目介绍
AI Horde 是一个企业级的机器学习运营(ML-Ops)众包分布式推理集群,专为 AI 模型服务。这个中间件既支持图像生成,又支持文本生成,具有无限的可扩展性,并且支持计算资源的无缝弹性增减。
主要功能
AI Horde 的公共版本让那些没有强大 GPU 的用户能够通过社区提供的闲置资源来使用像 Stable Diffusion 或大型语言模型如 Pygmalion/Llama。此外,还允许非 Python 的客户端,比如游戏和应用程序,使用 AI 提供的生成服务。
甚至,AI Horde 中间件本身也可以在任何企业的内部封闭环境中私有运行。它可在数小时内安装,并在几天内扩大企业的机器学习解决方案。
使用AI Horde
要使用 AI Horde,用户需要注册一个账户,或者可以选择匿名模式。
注册步骤:
- 访问 AI Horde 注册页面。
- 使用可用的服务登录,完成后填写用户名。
- 创建用户对象后自动为你生成一个 API 密钥,用于识别身份。
API 密钥应妥善保管,用于客户端或桥接。当首次登录后,可以随时更改用户名和 API 密钥。我们只存储通过 oauth 发送的用户 ID 字符串,保障用户的唯一性,不用于其他目的。
用户还可以选择创建一个不使用 oauth 的匿名账户,但这类账户不受维护。如果丢失访问权限,需重新创建账户。匿名账户存在被他人使用复制 API 密钥进行冒名顶替的风险,如果不想承担这些风险,建议通过可用服务登录。
若你希望完全匿名,服务也支持匿名模式,使用 '0000000000' 作为 API 密钥即可,但使用和贡献将不被追踪。如若服务过载,匿名模式可能会关闭。
注册的意义在于能够追踪用户的贡献和使用情况,贡献越多,优先级越高。详细了解这里
社区支持
AI Horde 拥有活跃的 Discord 社区,欢迎用户提出任何问题或反馈。
集成信息
如果你想将 AI Horde 集成到你的项目中(如 Bot、应用程序、脚本等),请查阅我们的 集成文档。
模式支持说明
AI Horde 支持多种模式,请查看针对每种模式的具体文档:
通过对 AI Horde 的介绍,希望能帮助广大用户更全面地了解和利用这一强大的中间件工具,提升其在 AI 应用和研究中的生产力。