Project Icon

frp

基于FRP的Gradio应用分享服务器

frp是一个基于Fast Reverse Proxy的开源项目,为Gradio应用提供分享服务。该工具支持创建自定义公共链接,实现本地Gradio应用的远程访问。frp具有灵活的配置选项,包括自定义域名设置、链接有效期延长和安全性增强。通过简单步骤,开发者可以搭建独立的Share服务器,获得更多自定义和控制能力。

Gradio 共享服务器 (FRP)

这个仓库是 Fast Reverse Proxy (FRP) 的一个分支,运行在 Gradio 的共享服务器上,用于启用 Gradio 的共享链接。以下是如何设置自己的共享服务器以生成自定义共享链接的说明 🔥

背景

当你创建一个 Gradio 应用并通过 share=True 启动它时,如下所示:

import gradio as gr

app = gr.Interface(lambda x: x, "image", "image")
app.launch(share=True)

你会得到一个类似 https://07ff8706ab.gradio.live 的共享链接,你的 Gradio 应用现在可以通过互联网被任何人访问(最多 72 小时)。

这是如何实现的? 你的 Gradio 应用在本地运行在 Python 服务器上,但我们使用 FRP 将本地服务器暴露给互联网。FRP 由两部分组成:

  • FRP 客户端:运行在你的机器上。我们为最常见的操作系统打包了二进制文件,你系统的 FRP 客户端会在你首次在你的机器上创建共享链接时下载。
  • FRP 服务器:运行在 Gradio 的共享服务器上,但由于 FRP 服务器是开源的,你也可以在自己的服务器上运行它!

FRP 客户端从你的本地机器建立到 FRP 服务器的连接,FRP 服务器可以在互联网上访问。然后 FRP 服务器提供一个公共 URL,将传入的请求转发到 FRP 客户端,后者再将请求发送到你本地运行的 Web 应用。

为什么要运行自己的共享服务器?

你可能出于以下几个原因想要运行自己的服务器:

  • 自定义域名:你可以使用任何你喜欢的域名,只要你拥有它,而不是 *.gradio.live
  • 更长时间的链接:当你运行自己的共享服务器时,你不需要限制共享链接在 72 小时后过期
  • 安全/隐私:通过在你的虚拟私有云中设置自己的共享服务器,你可以让你的信息安全团队满意

这也相当简单。在你的 Gradio 应用中,你只需要在 launch() 中传入共享服务器的 IP 地址作为 share_server_address 参数:

import gradio as gr

app = gr.Interface(lambda x: x, "image", "image")
app.launch(share=True, share_server_address="my-gpt-wrapper.com:7000")

瞧!

Running on public URL: http://07f56cd0f87061c8a1.my-gpt-wrapper.com

设置共享服务器

先决条件

  • 一个服务器(例如 AWS 上的 EC2 机器),运行 Linux 并连接到互联网。大多数云提供商提供的服务器(例如 AWS 上的 t2-small)应该足够了,我们建议至少有 2 GB 的 RAM 和 8 GB 的磁盘空间。你需要能够 SSH 到你的服务器。
  • 服务器应该有一个弹性 IP 地址和一个域名。具体说明取决于你使用的域名注册商和云提供商。例如,这里是 AWS 使用 EC2 和 Route53 的说明

重要:不仅是根域名,所有子域名都应该路由到你服务器的 IP 地址。这通常意味着你应该在 DNS 记录中有一个通配符条目,如这里最下面的条目所示:

image

1. 安装 Docker(20.10 版本或更高)

你可以在 SSH 到服务器后,在终端中依次运行这些命令(本指南假设你运行的是 Ubuntu):

sudo apt update
sudo apt install apt-transport-https ca-certificates curl software-properties-common
curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -
sudo add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu focal stable"
apt-cache policy docker-ce
sudo apt install docker-ce

通过在终端中运行 docker version 确认已安装 Docker 并且运行的版本是 20.10 或更高。你应该看到类似这样的内容:

Client: Docker Engine - Community
 Version:           24.0.6
...

2. 克隆此仓库

git clone git@github.com:huggingface/frp.git
cd frp

3. 编辑 FRP 服务器配置文件

打开 scripts/frps.ini 文件,编辑 subdomain_host 属性的值以反映你的域名(不带任何前缀)。

你还可以设置 bind_port,这是用于 FRP 连接的默认端口,可以设置为 7000 以外的值,或自定义 404 页面(custom_404_page),当没有活动的 Gradio 应用连接到共享服务器时会显示该页面。

这里是一个自定义的 .ini 文件示例:

[common]
log_level = trace
tcp_mux = true
bind_port = 7000
dashboard_port = 7001
vhost_http_port = 80
subdomain_host = my-gpt-wrapper.com
detailed_errors_to_client = false
custom_404_page = /etc/frp/my-404.html

注意:如果你想更改共享链接的过期时间(默认为 72 小时),也要编辑 server/control.go 中的这一行

4. 启动 FRP 服务器 Docker 容器

注意:这些命令可能需要 sudo 权限:

docker build -f dockerfiles/Dockerfile-for-frps -t frps:0.2 .
docker run --log-opt max-size=100m --memory=1G --cpus=1 --name frps3 -d --restart unless-stopped --network host -v ~/frp/scripts:/etc/frp frps:0.2 -c /etc/frp/frps.ini

5. 允许流量进入你的服务器

为了确保用户可以连接到你的共享服务器,你需要确保在正确的端口允许流量。你需要允许:

  • TCP 流量到端口 7000(或你在第 3 步中选择的 bind_port
  • HTTP 流量到端口 80
  • (可选,如果你的域名有 HTTPS 证书)HTTPS 流量到端口 443

注意:如果你愿意,你可以将前者规则的 IP 地址限制为那些应该能够创建共享链接的人,并将后两个规则的 IP 地址限制为那些应该能够查看共享链接的用户。

如果你使用的是 AWS,你的安全规则可能看起来像这样:

image

就是这样!你现在有了自己的小共享服务器!如前所述,你可以通过在 launch() 中将 IP 地址和 FRPS 端口作为单个字符串传递给 share_server_address 参数来使用它,如下所示:

import gradio as gr

app = gr.Interface(lambda x: x, "image", "image")
app.launch(share=True, share_server_address="my-gpt-wrapper.com:7000")

注意:如果你在共享服务器上安装了 HTTPS 证书,并且你的共享链接通过 HTTPS 提供服务,那么你还应该在 launch() 中设置 share_server_protocol="https"

项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号