localpilot

在你的Macbook上一键使用本地版GitHub Copilot！

演示视频

https://github.com/danielgross/localpilot/assets/279531/3259981b-39f7-4bfa-8a45-84bde6d4ba4c

此视频未经加速或减速处理。

安装

1. 首先，打开VS Code设置并在settings.json文件中添加以下内容：

"github.copilot.advanced": {
    "debug.testOverrideProxyUrl": "http://localhost:5001",
    "debug.overrideProxyUrl": "http://localhost:5001"
}

2. 创建虚拟环境来运行这个Python进程，安装所需依赖，并下载模型。

virtualenv venv
source venv/bin/activate
pip install -r requirements.txt
# 首次设置运行。这将下载几个模型到你的~/models文件夹。
python app.py --setup 

3. 运行！

python app.py

尽情享受你的设备本地Copilot吧！

注意事项FAQ

代码质量是否与GitHub Copilot一样好？

对于简单的行补全来说是的。对于简单的函数补全，大多数情况下是。对于复杂的函数...也许吧。

速度是否与GitHub Copilot一样快？

在我的配备Apple M2 Max的Macbook Pro上，7b模型的速度大致相当。34b模型则不然。请将此仓库视为一个非常低效实现的演示。我相信我们可以让它更快；如果你愿意帮忙，请提交pull request。例如，我认为我们需要一个防抖功能，因为有时llama.cpp/GGML在新请求到来时不能快速中断自己。

这个可以打包成一个简单的Mac应用吗？

当然可以！我只是没有时间去做。如果你对此感兴趣，请提交pull request！

是否应该有一个元模型，将请求路由到1b模型用于自动补全，7b用于更复杂的自动补全，34b用于程序补全？

嗯，这似乎是个有趣的想法。

那么总的来说，它好用吗？

只有在你的网络不佳时才好用。我认为如果你有快速的互联网连接，它就不具有竞争力。但在飞机上或使用移动网络时，它确实很棒！