Project Icon

Jan

在本地运行大型语言模型的跨平台解决方案

Jan是一个开源AI平台,支持在本地设备上运行Mistral和Llama2等大型语言模型,也可连接OpenAI的GPT-4等远程API。该平台注重隐私保护,提供完全离线操作,数据本地存储。Jan具有跨平台兼容性,支持自定义扩展,并提供OpenAI兼容的API接口。平台致力于打造本地优先、用户控制、高度可定制的AI体验,适用于从个人电脑到多GPU集群的各种设备。

ollama - 提供大型语言模型快速部署和运行的平台,支持MacOS、Windows和Linux
GithubOllama大型语言模型安装指南开源项目模型下载模型定制
Ollama是一个提供大型语言模型快速部署和运行的平台,支持MacOS、Windows和Linux。用户可以通过容易理解的界面,下载并运行各种模型,如Llama 3.1和Gemma 2等,并可通过Docker镜像或自定义安装脚本进行部署。此外,Ollama允许用户自定义和优化模型,满足不同的应用需求,如设置模型参数、导入外部模型等功能。同时,Ollama支持多种开源库例如ollama-python和ollama-js,提供全面的桌面客户端支持,使开发者能够更便捷地整合和应用AI技术。
onprem - 本地运行大型语言模型 安全处理私密数据
GithubOnPrem.LLM代码生成向量数据库大语言模型开源项目本地部署
OnPrem.LLM是一个Python工具包,支持在本地机器上运行大型语言模型,处理非公开数据。该工具兼容本地LLM和OpenAI API,提供文档问答、文本摘要和信息提取等功能。适用于需要在防火墙内处理敏感信息的企业,可轻松将本地LLM集成到实际应用中。
onnxruntime-genai - 设备端高效运行LLM模型的灵活解决方案
GithubLLMONNX Runtime开源项目模型架构生成式AI硬件加速
onnxruntime-genai是一个用于设备端高效运行大型语言模型的API。它支持Gemma、Llama、Mistral等多种模型架构,提供多语言接口。该项目实现了生成式AI的完整流程,包括预处理、推理、logits处理等。开发者可以使用generate()方法一次性生成输出或实现逐token流式输出。onnxruntime-genai为本地部署和运行LLM模型提供了简单、灵活、高性能的解决方案。
AIUI - AI语音交互平台,兼容桌面和移动浏览器
AIUIGPT-3.5GPT-4Github开源项目文本到语音语音接口
AIUI平台提供与AI模型的无缝双向语音通信,现支持GPT-4和GPT-3.5,兼容桌面和移动浏览器,未来将支持开放模型。在浏览器中打开应用即可开始对话,AIUI会处理语音输入并提供语音回应,实现自然连续的交互。它提供本地运行指南、环境变量配置及一键部署选项,方便快速上手。
gpt-j-api - 与GPT-J语言模型互动的文本生成和多语言分类API
API端点GPT-JGithubgpt-j-api开源项目文本生成零样本分类
介绍了通过API与GPT-J语言模型进行互动,支持文本生成和多语言文本分类,包括Python和Bash示例、公开API接口、Streamlit应用和独立API文档。提供了在TPU VM上设置服务器和部署Streamlit仪表板的详细指南。
local.ai - 简洁直观的本地AI实验桌面应用
AIGithublocal.airustwindow.ai应用程序开源项目
local.ai是一款桌面应用,专为本地、私密、安全的AI实验设计。功能包括模型API和下载器、推荐硬件规格和模型许可说明。内置简单笔记应用,每个笔记带有推理配置,并提供模型推理流服务端。与window.ai结合使用,可实现零成本的AI功能支持。基于rust crate构建,适用于Windows和MacOS,并可通过GitHub源码构建和社区互动。
Entry Point AI - 现代化大语言模型优化与管理平台
AI优化平台AI工具AI应用场景Entry Point AILLM提供商语言模型微调
Entry Point AI为专有和开源语言模型提供优化服务。平台集成了提示词管理、模型微调和性能评估功能,支持多家领先AI模型提供商。用户无需编码即可进行模型微调,同时平台提供团队协作、模板编写和数据导入导出等功能。Entry Point AI致力于帮助用户规避常见问题,提升模型质量和效率。该平台适用于内容生成、数据分类、信息提取和优先级排序等多种商业应用场景。
easyllm - 开源工具库助力简化大语言模型应用开发
API客户端EasyLLMGithubOpenAI兼容大语言模型开源项目
EasyLLM是一个开源项目,为开发者提供简化大语言模型操作的工具和方法。该项目实现了兼容OpenAI API的客户端,支持HuggingFace、Amazon SageMaker和Amazon Bedrock等平台的模型。EasyLLM允许开发者轻松切换不同语言模型,实现聊天、文本补全和嵌入等功能。此外,项目还包含进化指令生成和提示词工具等辅助模块,有效简化了大语言模型的应用开发流程。
Mojju - 专业OpenAI GPT工具库助力多领域应用
AIAI工具GPTOpenAI工具自定义
Mojju平台提供100多种独特且强大的OpenAI GPT工具,涵盖设计、开发、生产力、学习、加密货币、金融、生活方式等多个领域。AI专家团队打造的工具经过测试验证,包括生产力工具、各类助手和指南等。平台支持API集成和知识库,并提供持续更新和专业支持,满足多样化的AI应用需求。
Sanctum - 本地运行的私密AI助手应用
AI助手AI工具Sanctum大型语言模型本地运行隐私保护
Sanctum是一款在本地设备上运行开源大语言模型的AI助手应用。通过本地加密技术确保数据私密性,支持AI对话和PDF文档分析等功能。该应用适合注重数据安全同时希望使用AI功能的用户,无需网络连接即可运行完整的AI模型。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号