Project Icon

chat_templates

标准化大语言模型聊天模板的开源库

chat_templates是一个开源项目,为指令微调的大语言模型提供标准化聊天模板。该项目支持transformers库的chat_template功能,收录了Llama、Mistral、Qwen等主流大语言模型的聊天模板。此外,项目还提供了用于控制响应生成的配置文件。开发者可借助这些模板和配置,更便捷地使用各类大语言模型进行对话生成。

TinyLlama-1.1B-Chat-v1.0-GPTQ-4bit - 基于GPTQ量化技术的轻量级4位对话AI模型
GPTQGithubHuggingfaceTinyLlama开源项目机器学习模型模型压缩量化模型
TinyLlama-1.1B-Chat-v1.0的4位量化版本,是一个轻量级对话AI模型。该项目采用AutoGPTQ技术进行量化,使用GPTQ方法将模型压缩至4位精度。量化配置包括128的组大小、0.01%的阻尼比例和对称量化等特性。这种优化显著降低了模型大小和内存占用,同时保持了模型性能,为资源受限的AI应用提供了高效解决方案。
chat - 基于自然语言理解和机器学习的聊天系统
ChatGithub开源项目机器学习知识图谱聊天机器人自然语言处理
Chat 是一款基于自然语言理解和机器学习的聊天机器人系统,提供丰富的语义分析和知识图谱构建工具,适合从头搭建聊天机器人。支持多用户并发和自定义对话场景,易于修改和扩展。适用于对知识图谱和 KBQA 感兴趣的用户,支持 Python 3.3-3.6,通过 pip 安装后可快速启动数据库和语义服务器。
chat.petals.dev - 基于Petals客户端的大语言模型推理Web应用和API接口
AI推理GithubHTTP APILLM近似Petals ChatWebSocket API开源项目
本项目提供基于Petals客户端的大语言模型推理Web应用和API接口,包括HTTP和WebSocket端点。用户可通过git克隆项目并按说明在服务器上运行,支持Llama 2模型和Gunicorn部署。项目包含详细的API文档,支持多种生成参数,推荐使用效率更高的WebSocket API。生产环境中建议自行搭建后端以提高稳定性。
TinyLlama-1.1B-Chat-v1.0-marlin - TinyLlama-1.1B量化推理解决方案
GithubHuggingfaceNeural MagicTinyLlama-1.1B-Chat-v1.0基于模型开源项目推理模型量化
本项目提供了一种以TinyLlama-1.1B为基础的量化聊天模型,运用GPTQ技术实现内存优化与推理加速,支持高效的4位推理。借助nm-vllm引擎,用户能快速实现部署,并可通过Python管道进行本地推理。详细的量化与Marlin格式转换流程保障了模型的高效表现。此外,Neural Magic的Slack社区欢迎加入以获取支持和交流更多关于神经网络及AI的资讯。
ChatGLM2-6B - 基于GLM技术开发的中英双语对话模型
ChatGLM2-6BGithub开源项目性能提升推理速度显存占用模型开源
ChatGLM2-6B,基于GLM技术开发的中英双语对话模型,1.4T中英数据预训练后展现出改善的多语言处理效果,支持长达32K的上下文长度,新技术支持更快的推理速度和更好的对话体验。适用于学术研究和商业应用,如聊天机器人和客服AI,提供技术支持与灵活部署方案。
chatgpt_telegram_bot - 基于ChatGPT API的Telegram Bot,能够无限请求
ChatGPT Telegram BotGPT-4GithubOpenAI APITelegramchat模式开源项目
基于ChatGPT API的Telegram Bot,提供低延迟回复、无限请求和消息流功能。支持GPT-4、GPT-4 Turbo和GPT-4 Vision功能,以及DALL-E 2图像生成和语音消息识别。项目提供多种聊天模式(如助理、代码助理、艺术家等),支持群聊和代码高亮显示,用户可通过编辑配置文件创建自定义模式。最新功能包括群聊支持和多种热门聊天模式。
Awesome-Chinese-LLM - 中文大语言模型开源项目与应用全览
Github中文LLM可商用多轮对话大语言模型开源项目
探索Awesome Chinese LLM——这是一个集中展示中文大语言模型的开源项目、应用和教程的平台。包括100+项经优化微调的资源,助力自然语言处理的学术与应用开发。
Hermes-2-Pro-Llama-3-8B-GGUF - 基于Llama-3的通用型语言模型支持智能对话和结构化输出
GithubHuggingfaceLlama-3人工智能函数调用开源模型开源项目模型结构化输出
Hermes-2-Pro-Llama-3-8B是基于Llama-3 8B开发的开源语言模型,具备通用对话和函数调用能力。模型通过ChatML格式实现多轮对话,支持JSON结构化输出和系统提示功能。该项目提供了完整的模型使用文档和推理代码示例,并在AGIEval、GPT4All等基准测试中展示了其性能表现。
UltraChat - 大规模、多样化的多轮对话数据和模型
GithubUltraChatUltraFeedbackUltraLM开源项目数据集模型
UltraChat项目专注于构建开源、大规模、多轮对话数据,目标是打造具有广泛会话能力的强大语言模型。最新发布的模型和数据集包括UltraLM-13B-v2.0、UltraRM和UltraCM,在AlpacaEval基准测试上表现优异。UltraChat数据集分为三大部分:世界问题、写作与创作、现有材料辅助,对话涵盖了技术、艺术和创业等领域。项目数据仅供研究和教育用途,基于MIT许可证发布。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号