localpilot
在你的Macbook上一键使用本地版GitHub Copilot!
演示视频
https://github.com/danielgross/localpilot/assets/279531/3259981b-39f7-4bfa-8a45-84bde6d4ba4c
此视频未经加速或减速处理。
安装
- 首先,打开VS Code设置并在settings.json文件中添加以下内容:
"github.copilot.advanced": {
"debug.testOverrideProxyUrl": "http://localhost:5001",
"debug.overrideProxyUrl": "http://localhost:5001"
}
- 创建虚拟环境来运行这个Python进程,安装所需依赖,并下载模型。
virtualenv venv
source venv/bin/activate
pip install -r requirements.txt
# 首次设置运行。这将下载几个模型到你的~/models文件夹。
python app.py --setup
- 运行!
python app.py
尽情享受你的设备本地Copilot吧!
注意事项FAQ
代码质量是否与GitHub Copilot一样好?
对于简单的行补全来说是的。对于简单的函数补全,大多数情况下是。对于复杂的函数...也许吧。
速度是否与GitHub Copilot一样快?
在我的配备Apple M2 Max的Macbook Pro上,7b模型的速度大致相当。34b模型则不然。请将此仓库视为一个非常低效实现的演示。我相信我们可以让它更快;如果你愿意帮忙,请提交pull request。例如,我认为我们需要一个防抖功能,因为有时llama.cpp/GGML在新请求到来时不能快速中断自己。
这个可以打包成一个简单的Mac应用吗?
当然可以!我只是没有时间去做。如果你对此感兴趣,请提交pull request!
是否应该有一个元模型,将请求路由到1b模型用于自动补全,7b用于更复杂的自动补全,34b用于程序补全?
嗯,这似乎是个有趣的想法。
那么总的来说,它好用吗?
只有在你的网络不佳时才好用。我认为如果你有快速的互联网连接,它就不具有竞争力。但在飞机上或使用移动网络时,它确实很棒!