Lumos简介
Lumos是一个基于本地LLM的Chrome扩展程序,可以作为浏览网页时的智能助手。它由Ollama提供支持,所有推理都在本地机器上完成,无需远程服务器。
主要特性:
- 总结长篇论坛帖子、新闻文章等
- 回答关于商业和产品评论的问题
- 解答长篇技术文档中的问题
- 支持多模态模型,可处理网页上的图像
- 支持文件上传和剪贴板内容处理
- 提供丰富的快捷键操作
安装配置
-
安装Ollama服务器:
# 启动Ollama服务 OLLAMA_ORIGINS=chrome-extension://* ollama serve -
安装Chrome扩展:
- 克隆项目代码
- 运行
npm run build构建 - 在Chrome扩展页面加载解压的扩展
-
配置选项:
- 选择Ollama模型(如llama2)
- 设置向量存储TTL
- 自定义内容解析器配置
- 启用/禁用工具
主要功能
- 多模态支持:处理网页图像
- 文件附件:支持上传CSV、JSON、PDF等
- 工具调用:自动根据提示调用相关工具
- 快捷键:复制、清除消息、取消请求等
- 内容解析:可自定义网页内容提取规则
学习资源
Lumos为本地LLM在浏览器中的应用提供了一个很好的示例。通过阅读项目文档和相关博客文章,可以深入了解其实现原理和最佳实践。欢迎大家尝试使用Lumos,体验本地LLM增强网页浏览的乐趣!
