#本地部署

stt

这款语音识别工具可在本地离线运行，基于开源的fast-whisper模型，可将视频和音频中的人声快速转换为文字。支持输出json、srt及纯文本格式，无需联网，确保隐私安全，与openai语音识别接口准确率相当。用户可便捷下载预编译版本，或自行部署源码，支持多种操作系统。此外，还提供API接口，适合开发者使用。支持CUDA加速，优化处理速度。

chatbot-ui

Chatbot UI是一个开源的人工智能聊天应用，面向所有用户免费开放。本项目支持快速本地部署和云端托管，适配了最新的移动设备布局，并持续优化后端兼容性。使用Chatbot UI，用户可以享受即时的信息交流体验，增强交互效率。项目提供官方托管版本，无需自行托管，简化了设置过程。同时，Chatbot UI鼓励社区用户参与讨论，共同推动项目进步。

Qmedia

QMedia是一个开源的多媒体AI搜索引擎，专为处理和整合文本、图片及短视频内容而设计。此搜索引擎支持本地部署，便于在保护隐私的同时进行有效的内容搜索和问答处理。

Auto-PPT

Auto_PPT是一款采用gpt-3.5-turbo技术的先进自动化PPT生成工具，专为高效生成高质量PPTX文件，支持md格式并提升文本生成过程。搭配Unsplash精选插图，增强视觉吸引力，同时提供本地部署选项以保障数据安全。

whisper-website

本页面介绍了如何通过Whisper模型将语音转换为文字，包括在本地环境和Docker中的部署方法。提供克隆项目代码、配置虚拟环境或Docker镜像的详细步骤，帮助用户快速启动和测试Whisper模型在本地的运行效果。

grontown

grontown是一款基于开源游戏代理框架eastworld开发的黑色风格互动游戏。作为eastworld框架的演示和开发平台，grontown展示了AI技术在游戏中的应用。游戏可在gron.games网站上体验，也支持本地安装运行。项目源代码开放，为开发者提供了学习和研究eastworld框架的机会。

Local-LLM-User-Guideline

本项目提供Local-LLM全面指南，深入剖析大语言模型背景、开源LLM利弊、在线与本地LLM对比及应用场景。详述LLM运作机制、应用差异和在线使用挑战。指南助力用户选择合适LLM方案，尤其适合本地部署LLM的开发者和研究人员参考。

onprem

OnPrem.LLM是一个Python工具包，支持在本地机器上运行大型语言模型，处理非公开数据。该工具兼容本地LLM和OpenAI API，提供文档问答、文本摘要和信息提取等功能。适用于需要在防火墙内处理敏感信息的企业，可轻松将本地LLM集成到实际应用中。

ollama-gui

Ollama GUI为ollama.ai提供Web界面，支持在本地运行大型语言模型。该项目集成多种模型，如Mixtral、Phi和Solar，实现模型下载、聊天历史管理和Markdown解析等功能。基于Vue.js、Vite和Tailwind CSS开发，Ollama GUI为AI爱好者和开发者打造了便捷的本地LLM交互平台。