#结构化输出

llama-cpp-agent 是一个开源框架，提供与大型语言模型（LLMs）互动的多种接口，包括对话、函数调用、结构化输出和基于工具的文本处理。兼容多种服务器和工具，适用于从日常对话到特定功能执行的各种应用场景，具有简单聊天、结构化输出、RAG（检索增强生成）和代理链功能。

Hermes-2-Theta-Llama-3-8B是通过RLHF优化的模型，结合了超级智能AI和Llama-3的优势，可实现对话和结构化数据的生成。其支持多轮对话与功能调用的ChatML格式，为用户提供灵活的交互模式，适用于多种使用场景。其功能强大且接口设计直观，在语义理解和信息整合方面表现出色，适合需要综合AI能力的专业应用。

Hermes-2-Pro-Llama-3-8B是基于Llama-3 8B开发的开源语言模型，具备通用对话和函数调用能力。模型通过ChatML格式实现多轮对话，支持JSON结构化输出和系统提示功能。该项目提供了完整的模型使用文档和推理代码示例，并在AGIEval、GPT4All等基准测试中展示了其性能表现。