#聊天模板
Rocinante-12B-v1.1-GGUF - 基于12B参数的开源文本生成语言模型
Rocinante聊天模板语言模型Github开源项目文本生成模型Huggingface人工智能
Rocinante-12B-v1.1-GGUF是一个基于12B参数的开源语言模型，支持ChatML、Alpaca和Mistral等多种聊天模板。该模型具备丰富的词汇量和叙事能力，通过调整采样参数可实现不同风格的文本生成。项目开源并提供多种量化版本，适合用于文本创作和对话生成等场景。
c4ai-command-r-plus-GGUF - GGUF权重支持与加载优化简介
文档权重llama.cpp重要性矩阵Huggingface合并权重Github开源项目聊天模板模型
在Command R+ GGUF项目中，发现GGUF权重支持的新特性，并学习使用release b2636特性进行优化加载。imatrix矩阵的使用简化了权重合并过程，提高了使用效率。基于CohereForAI/c4ai-command-r-plus基础模型，项目在wikitext-2-raw数据集中展示了低混乱度的表现，用户可以通过实例化命令快速开始使用项目功能。