secret-llama

浏览器端运行的私密LLM聊天机器人支持多种开源模型

Secret Llama LLM WebGPU 开源模型浏览器应用 Github 开源项目

Secret Llama是一款在浏览器中运行的私密LLM聊天机器人，支持Llama 3、Mistral等开源模型。对话数据完全保留在本地计算机，无需服务器或安装。界面易用性媲美ChatGPT，支持离线工作。运行需要支持WebGPU的现代浏览器，不同模型可能有特定内存要求。项目欢迎贡献者参与改进界面、扩展模型支持和优化加载性能。

访问官网

Github

介绍相关项目

Llama-3.2-3B-Instruct-GGUF - Meta推出的新一代多语言AI对话模型支持128K上下文

128K上下文GithubHuggingfaceLlama-3.2-3B-Instruct多语言对话模型开源项目模型社区模型

Llama-3.2-3B-Instruct是Meta发布的新一代多语言AI模型,针对对话、检索和摘要任务进行优化。官方支持8种语言,实际训练语言更多。模型具备128K长上下文能力,可处理复杂任务。社区贡献者bartowski基于llama.cpp提供GGUF量化版本,便于多设备部署。

llama-cpp-agent - 简化与大规模语言模型交互的开源工具框架

Githubllama-cpp-agent函数调用大语言模型开源项目结构化输出聊天界面

llama-cpp-agent 是一个开源框架，提供与大型语言模型（LLMs）互动的多种接口，包括对话、函数调用、结构化输出和基于工具的文本处理。兼容多种服务器和工具，适用于从日常对话到特定功能执行的各种应用场景，具有简单聊天、结构化输出、RAG（检索增强生成）和代理链功能。

distributed-llama - 优化大型语言模型的分布式计算性能

Distributed LlamaGithubLlama 3Python 3TCP socketsTensor parallelism开源项目

通过分布式计算技术，分散大型语言模型（LLMs）的工作负载到多个设备上，即使是性能较弱的设备也能运行强大的LLMs。项目使用TCP sockets同步状态，用户可以使用家庭路由器轻松配置AI集群，实现显著加速效果。Distributed Llama支持多种模型架构，提供简便的设置和操作方法，用户可以在本地运行大规模语言模型。

Llama-3.2-3B-Instruct-Q4_K_M-GGUF - Llama 3.2模型的安装与使用详解

GithubHuggingfaceLlamaMeta使用政策开源项目模型模型转换许可协议

Llama-3.2-3B-Instruct Q4_K_M-GGUF模型经过llama.cpp转换为GGUF格式，支持多语言生成，适合用于AI研究与开发。用户可以通过简单的安装步骤在Mac和Linux系统上部署该模型，并通过命令行界面或服务器进行推断。此模型具备高效的文本生成能力，是进行AI开发和优化的有效工具。

Meta-Llama-3-70B-Instruct-GGUF - Llama 3 70B语言模型介绍与应用

GithubHuggingfaceMeta-Llama商业用途开源项目模型自然语言生成责任与安全量化模型

了解由Meta研发的Llama 3 70B模型，其通过定量化处理优化推理性能，适用于多种对话场景，支持多种模式的使用，为用户提供安全高效的互动能力。

llama-models - Meta推出的开放大型语言模型Llama

GithubLlama人工智能大语言模型开源开源项目自然语言处理

llama-models是Meta开发的开放大型语言模型项目，为AI开发者、研究人员和企业提供易用的工具。项目包含Llama 2、Llama 3和Llama 3.1等多个版本，支持不同模型规模和上下文长度。llama-models注重开放性、生态系统支持和安全性，为AI创新与负责任发展奠定基础。

Llama3-8B-Chinese-Chat-GGUF-4bit - 支持中英文交流的跨语言模型功能

GithubHuggingfaceLlama3-8B-Chinese-Chat功能升级开源项目模型语言模型

Llama3-8B-Chinese-Chat提供了优化的语言模型，以支持中英文用户的交互。最新的v2.1版本的模型提升了角色扮演、函数调用和数学计算功能，并减少了中文回答中夹杂英文的现象。用户可以通过GitHub和HuggingFace平台获取使用指南，提供在线演示和多种模型版本以满足不同用户的需求。

Llama Workspace - 自托管AI聊天平台为团队和企业提供安全解决方案

AI工具Llamaworkspace博客开源项目社交媒体联系方式

Llama Workspace为团队和企业提供自托管AI聊天平台，支持在用户自有基础设施上部署，保障数据隐私和安全。作为企业级AI解决方案，平台具备用户管理功能，提供多渠道技术支持。通过自定义部署，确保数据安全。平台通过博客分享AI技术资讯和使用指南，并在社交媒体保持活跃交流，为用户提供全面的AI应用体验。

Private LLM - 本地离线运行的隐私保护AI助手

AI工具iOS和macOS应用开源语言模型本地AI聊天机器人离线工作隐私保护

Private LLM是一款面向iOS和macOS的本地AI应用，支持多种开源大语言模型。该应用完全离线运行，保护用户隐私，一次购买即可在所有Apple设备上使用。Private LLM提供文本生成、语言辅助等功能，采用先进的AI模型和量化技术，在设备上实现高质量的AI体验。这款应用适合需要隐私保护和本地AI功能的用户，是创意和生产力的得力助手。

llamafile - 单文件执行的开源LLM部署框架

GithubLLMllamafile人工智能开源开源项目本地运行

llamafile项目将开源语言模型(LLM)封装为单个可执行文件，无需安装即可在本地运行。它集成了llama.cpp和Cosmopolitan Libc，支持跨平台使用，并提供Web界面和OpenAI兼容API。该框架简化了LLaVA、Mistral等多种LLM的部署流程，方便开发者和用户快速访问和应用这些模型。

相关项目

项目侧边栏1

项目侧边栏2

推荐项目

Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com

@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号