Github
HuggingfaceHome-3B-v3-GGUF项目介绍
Home-3B-v3-GGUF是一个基于StableLM-3B-Zephyr模型微调的人工智能助手项目，旨在为用户提供智能家居控制和基本问答功能。该项目具有以下特点：
主要功能
- 智能家居控制：模型能够控制用户家中的各种设备，如灯光、风扇等。
- 基本问答：可以回答用户的一般性问题和执行简单的逻辑任务。
- 多语言支持：虽然基础模型不完全支持多语言，但通过使用更好的分词器，该模型可以在一定程度上处理英语、德语、西班牙语和法语的请求。
技术特点
- 模型基础：基于StableLM-3B-Zephyr模型进行微调。
- 数据集：使用自定义数据集进行训练，专门设计用于教授模型函数调用。
- 量化技术：使用Lama.cpp进行量化，以便在资源有限的环境（如树莓派）上运行。
- 训练方法：采用LoRA技术在RTX 3090 (24GB)上进行训练。
新版本特性
V3版本相比之前的版本有以下改进：
- 更换基础模型为StableLM，大幅提高了准确性。
- 增加了基本的多人格支持。
- 增强了多语言支持。
- 扩展了对更多Home Assistant实体类型的支持，如吸尘器、定时器和待办事项。
使用方法
- 系统提示：使用Zephyr提示格式，提供Home Assistant安装信息，包括可用设备和可调用服务。
- 输出格式：模型输出包括对用户的回复，以及可选的Home Assistant服务调用代码块。
性能评估
在测试数据集上，该模型在JSON函数调用准确性方面达到了97.11%的高分。
许可证
该模型基于Stability AI的StableLM模型系列进行微调，遵循STABILITY AI非商业研究社区许可协议。因此，该模型仅供非商业用途使用。
应用场景
Home-3B-v3-GGUF项目适用于各种智能家居场景，可以帮助用户轻松控制家中设备，同时提供基本的智能问答服务。它特别适合在资源受限的环境中运行，如家庭服务器或小型设备上的Home Assistant安装。
总之，Home-3B-v3-GGUF项目为用户提供了一个功能强大、易于使用的智能家居助手解决方案，结合了设备控制和智能对话的能力，为智能家居爱好者和开发者提供了丰富的可能性。
