Project Icon

Jan

在本地运行大型语言模型的跨平台解决方案

Jan是一个开源AI平台,支持在本地设备上运行Mistral和Llama2等大型语言模型,也可连接OpenAI的GPT-4等远程API。该平台注重隐私保护,提供完全离线操作,数据本地存储。Jan具有跨平台兼容性,支持自定义扩展,并提供OpenAI兼容的API接口。平台致力于打造本地优先、用户控制、高度可定制的AI体验,适用于从个人电脑到多GPU集群的各种设备。

llm.js - JavaScript实现浏览器直接运行大语言模型
GithubJavaScriptLLM.jsWebAssembly大语言模型开源项目浏览器推理
llm.js是一个JavaScript库,实现了在浏览器中直接运行大语言模型。该项目支持TinyLLaMA、GPT-2和Qwen等多种模型,利用WebAssembly技术在浏览器端进行高效推理,可在智能手机等设备上运行。llm.js提供结构化响应、Web Worker支持和模型缓存等功能,方便开发者将AI能力整合到Web应用中。
modelz-llm - 开源大语言模型推理服务器,支持本地和云端部署并兼容OpenAI API
GithubModelz LLMOpenAI兼容 API云原生开源LLMs开源项目自托管
Modelz LLM 是一款推理服务器,支持在本地或云端环境中运行开源大语言模型(LLM),如FastChat、LLaMA和ChatGLM,并兼容OpenAI API。用户可以通过OpenAI Python SDK或LangChain与模型交互,支持将不同LLM的Docker镜像部署在Kubernetes等云原生环境,便于开发者快速上手和灵活部署各种AI应用。
Jlama - 面向Java应用的大型语言模型推理引擎
GithubJavaJlamaLLM推理开源项目模型支持量化模型
Jlama是一款面向Java应用的大型语言模型推理引擎,提供对GPT-2、BERT等模型的支持,集成多种分词器。其功能包括闪电注意力、专家混合,同时支持多种数据类型处理。Jlama借助最新Vector API加速推理,可实现分布式处理,适合集成LLM推理的开发者使用。
mlc-llm - 通用大语言模型高性能部署引擎
AI模型优化GithubMLC LLMMLCEngine开源项目机器学习编译器高性能部署
MLC LLM是一款用于大语言模型的高性能部署引擎,支持用户在各种平台上开发、优化和部署AI模型。核心组件MLCEngine通过REST服务器、Python、JavaScript、iOS和Android等接口提供OpenAI兼容的API,支持AMD、NVIDIA、Apple和Intel等多种硬件平台。项目持续优化编译器和引擎,与社区共同发展。
maid - 支持多种AI模型以及本地和远程接口的跨平台AI模型分发应用
GithubMaid开源开源项目模型接口移动人工智能跨平台应用
Maid是一款跨平台免费开源应用,实现了与本地llama.cpp模型及远程Ollama, Mistral, Google Gemini和OpenAI模型的接口。支持从huggingface直接下载精选模型,并可交互使用sillytavern角色卡,提升用户互动体验。支持包括Windows、MacOS、Linux和Android在内的多种操作系统,确保用户全面便捷的模型管理。
selfhostedAI - 兼容OpenAI接口的自托管AI项目,支持多种模型与应用
APIChatGLMGithubSelf-Hosted AIllama.cppstable-diffusion-webui开源项目
selfhostedAI是兼容OpenAI接口的自托管AI项目,支持多种开源模型如RWKV、ChatGLM 6B和llama.cpp,以及绘画模型stable-diffusion-webui。项目提供一键安装程序和详细教程,可在本地或云端运行,实现文本生成、对话及绘画功能。此外,还集成了text-generation-webui和Wenda,简化安装和配置流程。
jina - 帮助开发者构建和部署多模态AI应用的开源框架
DeploymentExecutorGithubJina云原生技术多模态AI开源项目热门
Jina是一个强大的开源框架,帮助开发者构建和部署多模态AI应用。它支持通过gRPC、HTTP和WebSockets通信,并且可以轻松扩展和部署到生产环境。无需担心底层基础设施的复杂性,开发者可以专注于逻辑和算法。Jina支持任何数据类型和主流深度学习框架,提供Pythonic体验,从本地部署到使用Docker-Compose、Kubernetes或Jina AI Cloud的高级编排。此外,Jina的流水线功能允许多个微服务容器化并独立扩展,实现高性能服务设计。
airunner - 本地运行的多模态AI界面:语言模型与图像生成集成
AI RunnerGithub人工智能图像生成开源项目本地运行语音交互
AI Runner整合了开源大型语言模型和AI图像生成技术,为用户提供本地运行的多模态AI体验。它支持语音交互、文本创作、图像生成等功能,具备快速处理能力和多模型并行运行特性。该项目注重离线使用和用户隐私保护,核心程序禁止网络连接,并采取严格的安全措施。
web-llm - 浏览器语言模型推理引擎,完全支持OpenAI API
GithubOpenAI API兼容性WebGPUWebLLM大语言模型开源项目浏览器内推理
WebLLM是一款借助WebGPU技术,实现硬件加速的浏览器内语言模型推理引擎,无需服务器即可直接在浏览器内运行。完全兼容OpenAI API,并具备流式输出和JSON模式生成功能,支持广泛的模型集成。通过NPM或CDN可以快速集成到各类AI交互应用中,同时确保用户隐私安全,并享受高效的GPU加速体验。
edgen - 本地运行的生成AI API服务,兼容OpenAI API
EdgenGenAIGithubOpenAI开源项目本地运行模型缓存
Edgen是一款本地运行的生成AI API服务器,兼容OpenAI API。支持文本生成、语音转文字等AI功能,可在Windows、Linux和MacOS平台上运行。通过本地推理保障数据隐私,减少对云计算的依赖。其模块化设计便于添加新模型,并能自动选择最佳运行时。Edgen还提供模型缓存功能,减少重复下载,无需Docker,采用Rust编写,为用户提供高效、可靠的AI解决方案。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号