Project Icon

Jan

在本地运行大型语言模型的跨平台解决方案

Jan是一个开源AI平台,支持在本地设备上运行Mistral和Llama2等大型语言模型,也可连接OpenAI的GPT-4等远程API。该平台注重隐私保护,提供完全离线操作,数据本地存储。Jan具有跨平台兼容性,支持自定义扩展,并提供OpenAI兼容的API接口。平台致力于打造本地优先、用户控制、高度可定制的AI体验,适用于从个人电脑到多GPU集群的各种设备。

llamafile - 单文件执行的开源LLM部署框架
GithubLLMllamafile人工智能开源开源项目本地运行
llamafile项目将开源语言模型(LLM)封装为单个可执行文件,无需安装即可在本地运行。它集成了llama.cpp和Cosmopolitan Libc,支持跨平台使用,并提供Web界面和OpenAI兼容API。该框架简化了LLaVA、Mistral等多种LLM的部署流程,方便开发者和用户快速访问和应用这些模型。
ai-devices - 智能语音助手现支持多语音模型和视觉推断技术
AI设备GPT-4GithubOpenAI开源项目语音输入镜像处理
本项目是AI驱动的智能语音助手,集成多种AI模型和服务。支持语音输入、文字转语音、图片处理及功能调用,提供高级视觉推断,保障用户获得全面的智能交互体验。主要支持最新的gpt-4o和gemini-1.5-flash-latest视觉模型,满足现代科技需求。
AnyGen AI - 综合企业生成式AI平台
AI工具AnyGenLLM云计算企业级AI数据科学
AnyGen AI是一个综合企业生成式AI平台,支持多种大型语言模型、多语言和多云环境。它提供统一接口,可自动生成基于LLM的AI应用,具有安全性、隐私保护和可靠性特点。平台包含LLM Studio、UI生成器、API生成器等功能模块,使数据科学家能灵活选用LLM,快速开发和部署定制AI解决方案,增强企业在生成式AI领域的竞争力。
gemma-2-2b-jpn-it-gguf - 基于Gemma的日语大模型跨平台量化部署版
GemmaGithubHuggingfacellama.cpp开源项目日语语言模型模型模型部署量子化
基于Google Gemma-2-2b-jpn-it模型的量子化优化项目,通过llama.cpp、LM Studio和LLMFarm实现在Windows、Mac及iOS平台的轻量级部署。该项目遵循Gemma开源协议,提供高效的日语大模型部署解决方案。
JudgeLM - 大语言模型开放场景高效评估技术
GithubJudgeLM大语言模型开放式任务开源项目微调模型评估
JudgeLM是一个用于训练和评估大语言模型评判器的开放平台。通过微调技术,该项目实现了对开放场景中大语言模型的高效评估,评判一致性超过人类水平。JudgeLM提供先进的评判器训练和评估代码,能够处理单一回答、多模态模型、多个回答和多轮对话等任务。此外,该平台还集成了分布式多模型服务系统和Web界面,方便用户使用和部署。
LocalAIVoiceChat - 开源本地AI语音聊天项目 支持自定义人格和声音
AI语音聊天Github实时语音交互开源项目本地AI模型语音合成语音识别
LocalAIVoiceChat是一个开源的本地AI语音聊天项目,集成Zephyr 7B语言模型与实时语音转文本和文本转语音技术。项目支持完全本地运行,可自定义AI人格和声音,提供实时语音交互功能。适用于具备8GB VRAM的GPU环境,为AI爱好者和开发者提供了一个实验性的本地实时聊天机器人平台。
auto-j - 开源大语言模型评估工具
Auto-JGithub大语言模型对齐评估开源开源项目生成式评判
Auto-J是一款开源的大语言模型评估工具,可评估模型与人类偏好的对齐程度。该工具覆盖58个真实场景,支持成对响应比较和单一响应评估,并提供详细的自然语言评论。Auto-J具有通用性强、灵活性高、可解释性好等特点,在多项评估任务中表现优异,为大语言模型的对齐研究提供支持。
EmbedAI - 离线问答聊天机器人创建
GithubPrivateGPTQnA聊天机器人开源项目数据隐私无需互联网本地LLM
PrivateGPT利用本地大型语言模型(LLM)技术,在不依赖互联网的情况下创建问答聊天机器人,确保数据的完全隐私和安全。该项目支持的文档类型包括但不限于PDF、Word、HTML等,支持无网络环境下流畅查询。特别适合需要处理敏感信息的企业和个人用户。
EasyLM - 简化的大规模语言模型训练与部署
EasyLMGPT-JGithubJAXLLaMATPU开源项目
EasyLM提供了一站式解决方案,用于在JAX/Flax中预训练、微调、评估和部署大规模语言模型。通过JAX的pjit功能,可以扩展到数百个TPU/GPU加速器。基于Hugginface的transformers和datasets,EasyLM代码库易于使用和定制。支持Google Cloud TPU Pods上的多TPU/GPU和多主机训练,兼容LLaMA系列模型。推荐加入非官方的Discord社区,了解更多关于Koala聊天机器人和OpenLLaMA的详细信息及安装指南。
llm-jp-3-1.8b-instruct - 跨平台大规模语言模型的多语言开发与评估
GithubHuggingfacellm-jptransformers大规模语言模型开源项目指令微调模型预训练
项目由日本国家信息学研究所研发中心开发,提供支持多种编程语言的大型语言模型,如C、Python、Java。采用Transformer架构,模型经过大规模数据集的预训练与优化微调,适用于多语言环境。用户可通过Hugging Face Transformers库轻松集成与使用。项目提供模型技术细节、参数设置和语言标记器使用方法,以及多样化的数据集和评估方案,适用于中文、英文、日文等语言。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号