Project Icon

gollama

专为macOS和Linux设计的Ollama模型管理工具

Gollama是一款专为macOS和Linux用户设计的工具,用于高效管理Ollama模型。它提供模型的列表、检查、删除、复制和推送等功能,并支持链接到LM Studio。用户可以通过热键快速进行模型的排序、编辑、运行和卸载。该工具还提供丰富的元数据展示和vRAM使用估算功能,支持多种命令行选项,非常适合日常模型管理。项目在持续开发中,不断优化用户体验。

genv - 开源GPU环境管理系统 简化资源分配与协作
GPU管理GenvGithub开源项目环境配置资源分配集群管理
Genv是一个开源的GPU环境和集群管理系统,为数据科学和机器学习团队提供GPU资源的高效管理。它支持GPU共享、远程访问、无代码切换以及本地LLM部署,显著提升团队协作效率。Genv具备GPU使用监控和配额管理功能,适合多人共享GPU资源的场景。通过与Ollama的集成,Genv能在集群中有效运行和管理大型语言模型。
Llama-3.2-3B-Instruct-uncensored-GGUF - 高效文本生成的前沿模型格式
GPU加速GithubHuggingfaceLlama-3.2-3B-Instruct-uncensored-GGUF开源项目文本生成模型模型格式量化
Llama-3.2-3B-Instruct-uncensored-GGUF采用了最新的GGUF格式,替代了不再支持的GGML,提升了大规模文本生成的性能。它兼容多种客户端与库,从llama.cpp到进阶GPU工具,包括Python库和用户友好的图形界面,如LM Studio和text-generation-webui,以及适用于故事创作的KoboldCpp。此更新提升了模型推理效率,具有广泛的兼容性,适用于多种系统平台,实现快速响应与多功能扩展。
h2o-llmstudio - 轻松微调大型语言模型的无代码图形界面
GithubH2O LLM StudioLLM微调Nvidia GPU图形用户界面开源项目无代码界面
H2O LLM Studio 提供无代码图形界面,轻松微调大型语言模型。支持多种超参数调整,包括LoRA和8位模型训练技术,甚至还可使用强化学习。用户可以可视化跟踪模型性能,并与模型互动获取即时反馈。支持将模型导出至 Hugging Face Hub,方便与社区分享。
Llama-3.2-1B - 提升2.4倍速度的语言模型微调框架
GithubHuggingfaceLlama 3.2Unsloth内存优化多语言支持开源项目模型模型微调
Meta发布的Llama-3.2-1B是一款支持8种语言的大规模语言模型。通过集成Unsloth工具,该项目实现了模型微调速度提升2.4倍、内存占用降低58%的性能优化。项目提供Google Colab环境支持,可快速进行模型训练,并支持将成果导出为GGUF、vLLM格式或部署至Hugging Face平台。
ragapp - 简单配置的企业级Agentic RAG方案
DockerGithubLlamaIndexOpenAIRAGapp云基础设施开源项目
RAGapp是一款企业级Agentic RAG解决方案,配置简单如OpenAI的自定义GPT,可通过Docker部署在云基础设施中。基于LlamaIndex构建,支持OpenAI和Gemini托管AI模型以及本地Ollama模型。提供Docker Compose和即将推出的Kubernetes部署选项。访问Admin UI进行配置,详情请参阅各端点和安全信息。
llama_ros - llama.cpp优化能力的ROS 2集成包
GithubLoRA AdaptersROS 2llama.cppllama_ros人工智能优化开源项目
llama_ros项目提供一系列ROS 2软件包,将llama.cpp的优化能力集成到ROS 2项目中。借助GGUF格式的LLMs和VLMs实现性能优化和功能扩展。内容包括相关项目介绍、安装指南、使用方法,以及各种示范,如llama_cli指令、启动文件配置、LoRA适配器、ROS 2客户端和LangChain集成。
Meta-Llama-3-70B-Instruct-GGUF - Meta Llama 3模型的量化选项及其更新动态
GithubHuggingfaceMeta Llama 3license协议使用政策开源项目模型法律责任知识产权
Meta Llama 3项目提供多种语言模型量化选项,结合llama.cpp发布版b3259,优化模型性能及存储。项目文件涵盖多规格量化选择,适合不同应用需求,如高质量的Q8_0与Q6_K。创新如f32到f16转换提升了数据处理效果。许可协议和使用政策严格遵循法律规定,确保模型安全合规使用。
Autogen_GraphRAG_Ollama - 实现本地多智能体RAG系统的开源项目
AutoGenChainlitGithubGraphRAGOllama开源项目本地LLM
Autogen_GraphRAG_Ollama是一个将GraphRAG与AutoGen代理结合的开源项目。它利用Ollama的本地LLM实现免费离线嵌入和推理,通过函数调用整合GraphRAG的知识搜索方法。项目支持本地模型推理和嵌入,扩展了AutoGen以支持非OpenAI LLM的函数调用,并集成Chainlit UI处理持续对话和用户交互,打造了一个功能完备的本地化多智能体RAG系统。
nvim-llama - Neovim插件实现本地运行大型语言模型
DockerGithubNeovimOllama大语言模型开源项目插件
nvim-llama是一个Neovim插件,通过Ollama接口实现本地运行大型语言模型。支持Llama 2、Mistral和CodeLlama等开源模型,利用Docker确保跨平台兼容性。插件提供简单配置选项,用户可轻松选择和下载模型,并通过:Llama命令在Neovim中与AI模型进行对话交互。
LLamaTuner - 大语言模型微调工具,支持几乎所有GPU
GithubLLamaTunerSupervised fine-tuning dataset大语言模型开源项目数据预处理模型训练
LLamaTuner是一款高效、灵活且功能全面的大语言模型微调工具。支持在几乎所有GPU上进行大语言模型的预训练和微调,包括单个8GB GPU上微调7B LLM和超过70B模型的多节点微调。自动调度高性能算子如FlashAttention和Triton内核,兼容DeepSpeed以提升训练吞吐量。支持多种LLM和VLM,以及QLoRA和LoRA等多种训练算法,提供连续预训练、指令微调和代理微调等功能,还能与大型模型进行对话。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号