🛠️ 副驾驶本地化了吗?
使用开源和本地LLM模型作为副驾驶来完成代码、生成项目、作为shell助手、自动修复错误等的当前趋势和最新技术。
📝 通过编辑来帮助保持此列表的相关性和最新性!
目录
📋 摘要
本地副驾驶处于早期实验阶段,大多数处于MVP(最小可行性产品)质量。
原因如下:
- 📉 本地模型仍然不如副驾驶
- 🔧 设置困难
- 💻 硬件需求高
然而,随着模型的改进和用于它们的编辑器扩展的开发,我们预计代码完成工具会迎来复兴。
本文档是一个精心策划的本地副驾驶、shell助手及相关项目的列表,旨在为那些对现有工具进行调研感兴趣的人提供资源,并帮助开发人员发现这些项目的最新技术状态。
📚 背景
2021年,GitHub发布了副驾驶,迅速在开发者中流行起来。此后,随着LLM附近的一系列AI发展,能够在消费者机器上运行的本地模型已经问世,看起来副驾驶本地化只是时间问题。
GitHub副驾驶的许多局限性与其封闭和云托管性质有关。
作为替代,本地副驾驶可以实现:
- 🌐 离线和私人使用
- ⚡ 提高响应速度
- 📚 更好的项目/上下文意识
- 🎯 能够运行特定语言/任务的专用模型
- 🔒 限制LLM输出以适应特定格式/语法。
🧩 编辑器扩展
使用LLM完成代码的编辑器扩展:
名称 | 编辑器 | :star: | 发布日期 | 备注 |
---|---|---|---|---|
GitHub Copilot | VSCode, vim | 8076 | 2021-6-29 | GitHub原创,不是本地或开源的。 |
Cursor | VSCode | 20730 | 2023-3-14 | VSCode的分支,不是开源的 |
Fauxpilot | VSCode | 14464 | 2022-9-3 | 早期本地概念验证。已不活跃? |
Tabby | VSCode, vim, IntelliJ | 20170 | 2023-9-30 | 完成光标选择 |
turbopilot | VSCode | 3835 | 2023-4-10 | 带有FIM支持的完成,灵感来自fauxpilot |
HuggingFace-vscode | VSCode | 1184 | 2023-6-19 | Tabnine的分支,支持Starcoder |
localpilot | VSCode | 3328 | 2023-10-2 | 用于轻松本地托管模型的工具,用于与官方副驾驶扩展一起使用自定义API端点。 |
StarcoderEx | VSCode | 100 | 2023-5-5 | 完成光标选择 |
WizardCoder-VSC | VSCode | 142 | 2023-6-19 | 概念验证,有文章可用 |
KoboldAIConnect | VSCode | 2023-10-7 | 使用本地KoboldAI后端的副驾驶克隆 | |
gen.nvim | vim | 1017 | 2023-10-1 | 使用自定义提示编辑选择 |
uniteai | VSCode, emacs, lsp | 240 | 2023-8-27 | |
Privy | VSCode | 825 | 2024-1-8 | 隐私优先的编码助手。 |
twinny | VSCode | 2386 | 2024-1-24 | 最无妨碍的本地托管AI代码完成插件。 |
🛠️ 工具
尝试根据规范生成项目/功能的工具:
名称 | :star: | 发布日期 | 备注 |
---|---|---|---|
gpt-engineer | 51527 | 2023-6-6 | 指定你希望它构建的内容,AI会询问澄清,然后构建。 |
gpt-pilot | 29228 | 2023-7-18 | 与gpt-engineer非常相似 |
continue | 13883 | 2023-5-24 | VSCode扩展。基于任务的自动完成 |
aider | 14883 | 2023-6-8 | 在你的终端中进行AI结对编程,与预先存在的较大代码库配合良好 |
rift | 3051 | 2023-6-20 | VSCode扩展。通过聊天编写代码,为你提供代理IDE,AI工程师与您并肩工作。 |
mentat | 2441 | 2023-7-25 | Mentat 协调跨多个位置和文件的编辑。 |
clippinator | 309 | 2023-4-15 | 使用一组代理来计划、编写、调试和测试 |
Refact.AI | 1513 | 2023-10-06 | 全面自托管的代码完成、聊天和训练服务,附带VSCode扩展。 |
LocalCompletion | 25 | 2023-11-15 | 支持任何OpenAI兼容后端的内联完成 |
🗨️ 聊天界面
具有shell/REPL/笔记本访问功能的聊天界面。 类似于/受ChatGPT的“高级数据分析”功能(以前的“代码解释器”)启发。
名称 | :star: | 备注 |
---|---|---|
open-interpreter | 51204 | 开源的,本地运行的OpenAI代码解释器实现 |
gptme | 247 | 支持开放模型。由我开发,@ErikBjare |
octogen | 249 | 在Docker环境中执行的本地代码解释器。 |
terminal-x | 32 | 非常早期的原型,将自然语言转换为shell命令,自2021年9月不再维护 |
DODA | >50 | 基于Electron的本地OpenAI开发助手GUI |
🤖 模型
与本地副驾驶使用相关的模型。按最近发布顺序排列。
名称 | 大小 | 语言 | :star: | 发布日期 | 备注 |
---|---|---|---|---|---|
Phind CodeLlama v2 | 34B | 多种 | 810 | 2023-8-27 | |
WizardCoder-Python | 7/13/34B | Python | 753 | 2023-8 | |
CodeLlama | 7/13/34B | 多种 | 15705 | 2023-8 | |
WizardCoder | 15B | 80+ | 741 | 2023-6 | Starcoder的细化 |
replit-glaive | 3B | 1? | 88 | 2023-7 | 在高质量数据上微调的小模型,性能令人印象深刻。 |
Starcoder | 15B | 80+ | 7219 | 2023-5 | |
replit-v1-3b | 3B | 20+ | 717 | 2023-5 | |
SantaCoder | 1.1B | Python, Java, JavaScript | 325 | 2023-4 | 小模型,选择性训练在3种语言上的'The Stack' |
**注意:**由于新模型发布的速度,这部分注定过时。
📚 数据集
与训练模型有关的数据集。
名称 | 大小 | 语言 | :star: | 发布日期 | 备注 |
---|---|---|---|---|---|
The Stack | 3TB/6TB | 358 | >500 | 2022-10 | 从v1.1开始排除弱Copyleft许可证(MPL, LGPL, EGL) |
工具
与相关的有用工具。
名称 | :star: | 发布日期 | 备注 |
---|---|---|---|
ollama | 82233 | 2023-8-27 | 轻松在本地部署大型语言模型。 |
📰 历史
📈 统计
长时间的星标数: