Ollama GUI：与本地LLMs聊天的Web界面

Ollama GUI是一个用于ollama.ai的Web界面，这是一个能让你在本地机器上运行大型语言模型（LLMs）的工具。

🛠 安装

前提条件

1. 下载并安装ollama CLI。
2. 下载并安装yarn和node。

ollama pull <模型名称>
ollama serve

入门指南

2. 克隆仓库并启动开发服务器。

git clone https://github.com/HelgeSverre/ollama-gui.git
cd ollama-gui
yarn install
yarn dev

或者使用托管的Web版本，通过以下命令运行ollama(文档)

OLLAMA_ORIGINS=https://ollama-gui.vercel.app ollama serve

使用Docker运行

要使用Docker运行Ollama GUI，请按以下步骤操作：

1. 确保您的系统上已安装Docker（或OrbStack）。

2. 克隆仓库：

   git clone https://github.com/HelgeSverre/ollama-gui.git
   cd ollama-gui
   

3. 构建Docker镜像：

   docker build -t ollama-gui .
   

4. 运行Docker容器：

   docker run -p 8080:8080 ollama-gui
   

5. 通过打开网络浏览器并导航到http://localhost:8080来访问应用程序。

注意：确保Ollama CLI在您的主机上运行，因为Ollama GUI的Docker容器需要与之通信。

模型

为了方便和可复制性，这里列出了一些您可能想尝试的有趣模型表格。

有关Ollama支持的完整模型列表，请访问ollama.ai/library。

模型	参数	大小	下载命令
Mixtral-8x7B Large	7B	26GB	ollama pull mixtral
Phi	2.7B	1.6GB	ollama pull phi
Solar	10.7B	6.1GB	ollama pull solar
Dolphin Mixtral	7B	4.1GB	ollama pull dolphin-mixtral
Mistral	7B	4.1GB	ollama pull mistral
Mistral (instruct)	7B	4.1GB	ollama pull mistral:7b-instruct
Llama 2	7B	3.8GB	ollama pull llama2
Code Llama	7B	3.8GB	ollama pull codellama
Llama 2 Uncensored	7B	3.8GB	ollama pull llama2-uncensored
Orca Mini	3B	1.9GB	ollama pull orca-mini
Falcon	7B	3.8GB	ollama pull falcon
Vicuna	7B	3.8GB	ollama pull vicuna
Vicuna (16K上下文)	7B	3.8GB	ollama pull vicuna:7b-16k
Vicuna (16K上下文)	13B	7.4GB	ollama pull vicuna:13b-16k
nexusraven	13B	7.4gB	ollama pull nexusraven
starcoder	7B	4.3GB	ollama pull starcoder:7b
wizardlm-uncensored	13B	7.4GB	ollama pull wizardlm-uncensored

📋 待办事项

• 正确格式化聊天消息中的换行（PHP中有nl2br，基本上想要同样的功能）
• 使用IndexedDB在本地存储聊天历史
• 清理代码，为了速度和快速发布，我把代码弄得有点乱
• 添加Markdown解析库
• 允许浏览和安装可用模型（库）
• 确保移动端响应性（目前非优先考虑的用例）
• 添加文件上传功能，包括OCR等

🛠 技术栈

• Ollama.ai - 模型CLI工具
• LangUI
• Vue.js
• Vite
• Tailwind CSS
• VueUse
• @tabler/icons-vue

📝 许可证

根据MIT许可证授权。详情请参阅LICENSE.md文件。