#函数调用

magentic

使用@prompt和@chatprompt装饰器创建返回结构化输出的函数，将大型语言模型（LLM）与Python代码结合，实现复杂逻辑。支持pydantic模型和内置Python类型的结构化输出、少样本提示、函数调用与并行调用、异步支持、流式输出和图像处理。兼容OpenAI和Anthropic等多个LLM提供商。通过设置环境变量快速配置magentic。

llama-cpp-agent

llama-cpp-agent 是一个开源框架，提供与大型语言模型（LLMs）互动的多种接口，包括对话、函数调用、结构化输出和基于工具的文本处理。兼容多种服务器和工具，适用于从日常对话到特定功能执行的各种应用场景，具有简单聊天、结构化输出、RAG（检索增强生成）和代理链功能。

openhermes-function-calling

openhermes-function-calling是一个旨在为开源语言模型添加函数调用能力的项目。通过集成此项目，语言模型可以理解、执行和响应特定的函数调用，从而扩展了模型的应用范围。它为开发者提供了新的工具，使他们能够在各种场景中更灵活地应用语言模型，如自然语言处理、对话系统和智能助手等。该项目通过定义标准化的函数接口和参数格式，实现了模型与外部函数的无缝对接，促进了人工智能技术在实际应用中的发展和创新。

anthropic_with_functions

Anthropic with Functions是一个Python库，实现了Anthropic Claude模型与自定义函数的集成。该库提供API接口，支持在对话流程中调用外部功能，如获取天气信息。尽管处于早期开发阶段，它为开发者提供了在AI对话中执行特定任务的工具。项目开源，欢迎社区贡献，目标是持续优化功能并提高与其他函数调用系统的兼容性。

JSON To ChatGPT

JSON To ChatGPT是一款专为ChatGPT函数调用设计的在线转换工具。它可以快速将标准JSON结构转换为ChatGPT所需的特定函数对象格式，简化了开发者使用ChatGPT函数调用功能的流程。工具界面简洁，操作直观，输入JSON数据即可获得符合要求的函数对象。这一工具有助于提高开发者在使用ChatGPT API时的工作效率。

Hermes-2-Pro-Mistral-7B-GGUF

项目展示了 Hermes 2 Pro 模型升级版，针对 Mistral 7B 优化。模型在任务和对话能力上表现优异，特别是在函数调用和 JSON 结构化输出方面的表现突出。其系统提示和多轮函数调用结构确保函数调用的可靠性，易于解析。评估结果表明，与 Fireworks.AI 合作，在函数调用和 JSON 模式上分别取得90%和84%的高分。更多详情及使用方法可查阅项目的 GitHub 仓库。此版本为 GGUF 格式，适用于 llama.cpp 推理引擎。

Mistral-7B-Instruct-v0.3

Mistral-7B-Instruct-v0.3是Mistral-7B-v0.3的指令微调版本，词汇表扩展至32768个token，支持v3分词器和函数调用。可通过mistral-inference库实现聊天和指令跟随功能，也兼容Hugging Face transformers库。该模型提供了文本生成和函数调用示例，但缺乏内容审核机制，部署时需谨慎考虑。

firefunction-v2-GGUF

firefunction-v2-GGUF是一个基于Llama 3的函数调用模型,采用GGUF格式。它在函数调用性能上接近GPT-4,并保留了Llama 3的对话能力。该模型支持并行函数调用,性能指标全面提升,可与多种GGUF兼容客户端和库使用。它为开发者提供了高效灵活的函数调用工具,适用于各种应用场景。

gorilla

Gorilla项目展示了如何通过其模型实现大规模语言模型（LLM）与1600多个API的精确调用，有效减少幻觉生成并提升功能调用能力。Gorilla支持商用，具有开源许可，用户可在本地运行或通过CLI界面与之交互。项目还提供APIBench数据集和评估代码，帮助开发者优化和评估LLM工具。