#函数调用
magentic
使用@prompt和@chatprompt装饰器创建返回结构化输出的函数,将大型语言模型(LLM)与Python代码结合,实现复杂逻辑。支持pydantic模型和内置Python类型的结构化输出、少样本提示、函数调用与并行调用、异步支持、流式输出和图像处理。兼容OpenAI和Anthropic等多个LLM提供商。通过设置环境变量快速配置magentic。
llama-cpp-agent
llama-cpp-agent 是一个开源框架,提供与大型语言模型(LLMs)互动的多种接口,包括对话、函数调用、结构化输出和基于工具的文本处理。兼容多种服务器和工具,适用于从日常对话到特定功能执行的各种应用场景,具有简单聊天、结构化输出、RAG(检索增强生成)和代理链功能。
openhermes-function-calling
openhermes-function-calling是一个旨在为开源语言模型添加函数调用能力的项目。通过集成此项目,语言模型可以理解、执行和响应特定的函数调用,从而扩展了模型的应用范围。它为开发者提供了新的工具,使他们能够在各种场景中更灵活地应用语言模型,如自然语言处理、对话系统和智能助手等。该项目通过定义标准化的函数接口和参数格式,实现了模型与外部函数的无缝对接,促进了人工智能技术在实际应用中的发展和创新。
anthropic_with_functions
Anthropic with Functions是一个Python库,实现了Anthropic Claude模型与自定义函数的集成。该库提供API接口,支持在对话流程中调用外部功能,如获取天气信息。尽管处于早期开发阶段,它为开发者提供了在AI对话中执行特定任务的工具。项目开源,欢迎社区贡献,目标是持续优化功能并提高与其他函数调用系统的兼容性。
JSON To ChatGPT
JSON To ChatGPT是一款专为ChatGPT函数调用设计的在线转换工具。它可以快速将标准JSON结构转换为ChatGPT所需的特定函数对象格式,简化了开发者使用ChatGPT函数调用功能的流程。工具界面简洁,操作直观,输入JSON数据即可获得符合要求的函数对象。这一工具有助于提高开发者在使用ChatGPT API时的工作效率。
Hermes-2-Pro-Mistral-7B-GGUF
项目展示了 Hermes 2 Pro 模型升级版,针对 Mistral 7B 优化。模型在任务和对话能力上表现优异,特别是在函数调用和 JSON 结构化输出方面的表现突出。其系统提示和多轮函数调用结构确保函数调用的可靠性,易于解析。评估结果表明,与 Fireworks.AI 合作,在函数调用和 JSON 模式上分别取得90%和84%的高分。更多详情及使用方法可查阅项目的 GitHub 仓库。此版本为 GGUF 格式,适用于 llama.cpp 推理引擎。
NexusRaven-V2-13B
NexusRaven-V2-13B 是一个开源的功能调用模型,具备商业应用潜力。它在生成单功能调用、嵌套调用和并行调用方面表现出色,并超越了现有的技术水平。相比于 GPT-4,该模型在复杂场景中功能调用的成功率提高了 7%。NexusRaven-V2 的独特之处在于它从未使用过的函数中展示出色的泛化能力,并提供详细解释,且在商用应用中可进行完全控制,不依赖专有数据训练,提升商业适用性。
ToolACE-8B
ToolACE-8B是一个基于LLaMA-3.1-8B-Instruct模型微调的工具调用专家模型。它在Berkeley Function-Calling Leaderboard上表现出色,性能与GPT-4相当。该模型采用ToolACE数据集训练,结合多智能体对话生成和双层验证系统,确保了数据的多样性和准确性。ToolACE-8B在函数调用方面展现出卓越能力,为开发者提供了强大的工具使用支持。
gorilla
Gorilla项目展示了如何通过其模型实现大规模语言模型(LLM)与1600多个API的精确调用,有效减少幻觉生成并提升功能调用能力。Gorilla支持商用,具有开源许可,用户可在本地运行或通过CLI界面与之交互。项目还提供APIBench数据集和评估代码,帮助开发者优化和评估LLM工具。