#文档引用
LARS - 开源大型语言模型本地运行与检索增强引用工具
LARSLLMNvidia CUDAOCR文档引用Github开源项目
LARS是一个开源应用,允许在本地设备运行大型语言模型(LLM),支持上传个人文件,以及通过检索增强生成(RAG)技术增强对话准确度和减少生成误差。特点包括精确文献引用、多种文件格式支持、全历史聊天记录和GPU加速。用户可以自定义LLM设置,优化使用体验。
c4ai-command-r-v01 - 多语言生成和推理的高效大型语言模型
Github生成模型工具使用开源项目C4AI Command-R多语言生成文档引用Huggingface模型
C4AI Command-R是一款35亿参数的生成模型,适用于推理、摘要和问答等多种场景,具备强大的多语言生成能力,支持包括中文在内的10种语言。该模型在Hugging Face等平台提供实验机会,其开放权重设计方便多重用途的使用。采用优化的Transformer架构,并通过有监督微调以符合人类优选方式。通过特定的提示模板,模型能有效执行引用生成,提高回答的准确度和效用。