Gollama入门指南 - Ollama模型管理工具

Ray

Gollama:便捷的Ollama模型管理工具

Gollama logo

Gollama是一款专为macOS和Linux设计的Ollama模型管理工具。它提供了一个直观的文本用户界面(TUI),让用户可以轻松地列出、检查、删除、复制和推送Ollama模型,同时还可以选择性地将模型链接到LM Studio。

主要特性

  • 列出可用模型
  • 显示模型元数据(大小、量化级别、模型系列、修改日期等)
  • 编辑/更新模型的Modelfile
  • 按名称、大小、修改日期、量化级别、系列等对模型进行排序
  • 选择和删除模型
  • 运行和卸载模型
  • 检查模型的详细信息
  • 计算模型的近似vRAM使用量
  • 将模型链接到LM Studio
  • 复制/重命名模型
  • 将模型推送到注册表
  • 显示正在运行的模型

安装

从Go安装:

go install github.com/sammcj/gollama@HEAD

从GitHub安装:

  1. 发布页面下载最新版本
  2. 解压二进制文件到PATH目录中

例如:

zip -d gollama*.zip -d gollama && mv gollama /usr/local/bin

使用方法

运行gollama应用程序:

gollama

提示:可以为gollama设置别名以快速访问:

echo "alias g=gollama" >> ~/.zshrc

主要快捷键

  • Space: 选择
  • Enter: 运行模型(Ollama run)
  • i: 检查模型
  • t: 显示运行中的模型
  • D: 删除模型
  • e: 编辑模型
  • c: 复制模型
  • U: 卸载所有模型
  • p: 拉取现有模型
  • g: 拉取新模型
  • P: 推送模型
  • n: 按名称排序
  • s: 按大小排序
  • m: 按修改时间排序
  • k: 按量化级别排序
  • f: 按系列排序
  • l: 将模型链接到LM Studio
  • L: 将所有模型链接到LM Studio
  • q: 退出

命令行选项

  • -l: 列出所有可用的Ollama模型并退出
  • -s <搜索词>: 按名称搜索模型
  • -e <模型>: 编辑模型的Modelfile
  • --vram: 估算现有Ollama模型或huggingface模型ID的vRAM使用量

vRAM估算功能

Gollama包含一个全面的vRAM估算功能:

  • 计算已拉取的Ollama模型或huggingface模型ID的vRAM使用量
  • 确定给定vRAM约束下的最大上下文长度
  • 为给定的vRAM和上下文约束找到最佳量化设置
  • 显示不同k/v缓存量化选项的估算值(fp16, q8_0, q4_0)
  • 自动检测可用的CUDA vRAM或系统RAM

通过Gollama,用户可以轻松管理和优化他们的Ollama模型,提高工作效率。无论您是AI开发人员还是模型使用者,Gollama都能为您提供便捷的模型管理体验。

avatar
0
0
0
最新项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号