Llama Coder

一个开源的Claude Artifacts – 只需一个提示即可生成小型应用。由Llama 3 405B和Together.ai提供支持。

技术栈

• 使用Meta的Llama 3.1 405B作为大型语言模型
• 使用Together AI进行大型语言模型推理
• 使用Sandpack作为代码沙盒
• 使用Next.js应用路由器和Tailwind
• 使用Helicone进行可观察性
• 使用Plausible进行网站分析

克隆和运行

1. 克隆仓库：git clone https://github.com/Nutlope/llamacoder
2. 创建一个.env文件并添加你的Together AI API密钥：TOGETHER_API_KEY=
3. 运行npm install和npm run dev安装依赖并在本地运行

未来任务

• 尝试提示重写器并同时启动
• 改进弹出的提示框，使其更像一个可共享的模态框
• 添加共享功能，让人们可以公开分享他们的应用
• 添加切换shadcn组件和其他组件的功能
• 支持不同主题 – 通过某种方式将变量传递给组件
• 为特定生成添加动态OG图像并包含提示
• 为playwright添加更多动态OG图像
• 解决重复发布相同应用的问题
• 尝试使用思维链推理，看是否能提高整体效果
• 通过将输入设为文本区域并添加生成具有良好提示的应用的选项来鼓励最佳实践
• 增加更多自定义选项，如更改提示、温度等
• 保存以前的版本，让人们可以在生成的版本之间来回切换
• 在网站上添加"精选应用"路由（/featured）会很不错。设置一个/id/${prompt}动态路由，可以在沙盒中展示许多优秀的示例应用，随时可用
• 支持更多语言，从Python开始，查看E2B
• 尝试思维链推理，看是否能提高整体效果
• 尝试在405b或GPT-4/Claude的优质提示上微调较小的模型
• 为整个网站添加深色模式，这是一个不错的设计变更
• 在codesandbox中更好地向用户显示错误，让人们知道出了什么问题
• 考虑如何让405B自我纠正（有时它会编造导入）
• 新增updateCode路由，只发送最新生成的代码和修改请求
• 修复用户编辑代码后进行更改时不使用编辑后代码的错误
• 如果流量过高，使用redis upstash添加速率限制
• 尝试添加一个一致的组件库，如shadcn
• 直接应用代码差异，而不是要求模型从头生成代码
• 添加上传功能，如上传截图作为起点