xiaogpt

https://user-images.githubusercontent.com/15976103/226803357-72f87a41-a15b-409e-94f5-e2d262eecd53.mp4

在小米AI音箱上运行ChatGPT和其他大型语言模型

支持的AI类型

• ChatGPT
• 新必应
• ChatGLM
• Gemini
• 豆包
• Moonshot
• 零一万物
• Llama3
• 通义千问

获取小米音箱DID

• 注意不同shell对环境变量的处理是不同的，尤其是PowerShell赋值时，可能需要双引号来包括值。
• 如果获取DID报错，请尝试更换无线网络，这通常能解决问题。

原理简介

无需root使小爱同学与ChatGPT交互的折腾记录

准备工作

1. ChatGPT账号
2. 小爱音箱
3. 能正常联网的环境或代理
4. Python 3.8+

使用方法

• pip install -U --force-reinstall xiaogpt[locked]
• 参考我fork的MiService项目README，在本地终端运行micli list获取音箱的DID。别忘了设置export MI_DID=xxx
• 运行xiaogpt --hardware ${your_hardware} --use_chatgpt_api。hardware是你小爱音箱底部的型号，如果找不到或型号不对，可以用micli mina查找
• 启动后，可以向小爱同学提问。以"帮我"开头的问题会发送给ChatGPT，然后小爱同学用TTS回答
• 如果上述方法不可用，可以尝试用手机抓包，在https://userprofile.mina.mi.com/device_profile/v2/conversation找到cookie，使用--cookie '${cookie}'（注意用单引号包裹cookie）
• 默认使用ubus，如果你的设备不支持ubus，可以使用--use_command来使用command进行TTS
• 使用--mute_xiaoai选项可以快速停止小爱的回答
• 可以使用--account ${account} --password ${password}
• 如有能力可自行替换或去掉唤醒词
• 使用--use_chatgpt_api可获得更流畅的对话体验，速度特别快。需要OpenAI API密钥
• 如果遇到网络问题需要使用Cloudflare Workers替换api_base，请使用--api_base ${url}。注意，输入的API应为'https://xxxx/v1'格式，域名需要用引号包裹
• 使用--use_moonshot_api和其他模型，请参考下文
• 可以对小爱说"开始持续对话"进入持续对话状态，"结束持续对话"结束该状态
• 可以使用--tts edge获取更好的TTS能力
• 可以使用--tts openai获取OpenAI的TTS能力
• 可以使用--tts azure --azure_tts_speech_key <your-speech-key>获取Azure TTS能力
• 可以使用--use_langchain代替--use_chatgpt_api调用LangChain（默认ChatGPT）服务，实现网络检索、数学运算等功能

例如：

export OPENAI_API_KEY=${your_api_key}
xiaogpt --hardware LX06 --use_chatgpt_api
# 或
xiaogpt --hardware LX06 --cookie ${cookie} --use_chatgpt_api
# 如果想直接输入账号密码
xiaogpt --hardware LX06 --account ${your_xiaomi_account} --password ${your_password} --use_chatgpt_api
# 如果想让小米音箱保持静音
xiaogpt --hardware LX06  --mute_xiaoai --use_chatgpt_api
# 使用流式响应，获得更快的回复
xiaogpt --hardware LX06  --mute_xiaoai --stream
# 如果想使用Google的Gemini
xiaogpt --hardware LX06  --mute_xiaoai --use_gemini --gemini_key ${gemini_key}
# 如果想使用自己的Google Gemini服务
python3 xiaogpt.py --hardware LX06  --mute_xiaoai --use_gemini --gemini_key ${gemini_key} --gemini_api_domain ${gemini_api_domain}
# 如果想使用阿里的通义千问
xiaogpt --hardware LX06  --mute_xiaoai --use_qwen --qwen_key ${qwen_key}
# 如果想使用Kimi
xiaogpt --hardware LX06  --mute_xiaoai --use_moonshot_api --moonshot_api_key ${moonshot_api_key}
# 如果想使用Llama3
xiaogpt --hardware LX06  --mute_xiaoai --use_llama --llama_api_key ${llama_api_key}
# 如果想使用零一万物
xiaogpt --hardware LX06  --mute_xiaoai --use_yi_api --ti_api_key ${yi_api_key}
# 如果想使用豆包

export OPENAI_API_KEY=${your_api_key}
export SERPAPI_API_KEY=${your_serpapi_key}
xiaogpt --hardware Lx06 --use_langchain --mute_xiaoai --stream --openai_key ${your_api_key} --serpapi_api_key ${your_serpapi_key}

使用git clone运行

export OPENAI_API_KEY=${your_api_key}
python3 xiaogpt.py --hardware LX06
# 或者
python3 xiaogpt.py --hardware LX06 --cookie ${cookie}
# 如果你想直接输入账号密码
python3 xiaogpt.py --hardware LX06 --account ${your_xiaomi_account} --password ${your_password} --use_chatgpt_api
# 如果你想静音小米的回答
python3 xiaogpt.py --hardware LX06  --mute_xiaoai
# 使用流式响应，获得更快的响应
python3 xiaogpt.py --hardware LX06  --mute_xiaoai --stream
# 如果你想使用 ChatGLM api
python3 xiaogpt.py --hardware LX06  --mute_xiaoai --use_glm --glm_key ${glm_key}
# 如果你想使用谷歌的 gemini
python3 xiaogpt.py --hardware LX06  --mute_xiaoai --use_gemini --gemini_key ${gemini_key}
# 如果你想使用自己的谷歌 gemini 服务
python3 xiaogpt.py --hardware LX06  --mute_xiaoai --use_gemini --gemini_key ${gemini_key} --gemini_api_domain ${gemini_api_domain}
# 如果你想使用阿里的通义千问
python3 xiaogpt.py --hardware LX06  --mute_xiaoai --use_qwen --qwen_key ${qwen_key}
# 如果你想使用 kimi
xiaogpt --hardware LX06  --mute_xiaoai --use_moonshot_api --moonshot_api_key ${moonshot_api_key}
# 如果你想使用 01
xiaogpt --hardware LX06  --mute_xiaoai --use_yi_api --ti_api_key ${yi_api_key}
# 如果你想使用豆包
python3 xiaogpt.py --hardware LX06  --mute_xiaoai --use_doubao --stream --volc_access_key xxxx --volc_secret_key xxx
# 如果你想使用 llama3
python3 xiaogpt.py --hardware LX06  --mute_xiaoai --use_llama --llama_api_key ${llama_api_key}
# 如果你想使用 LangChain+SerpApi 实现上网检索或其他本地服务（目前仅支持 stream 模式）
export OPENAI_API_KEY=${your_api_key}
export SERPAPI_API_KEY=${your_serpapi_key}
python3 xiaogpt.py --hardware Lx06 --use_langchain --mute_xiaoai --stream --openai_key ${your_api_key} --serpapi_api_key ${your_serpapi_key}

config.yaml

如果想通过单一配置文件启动也是可以的，可以通过 --config 参数指定配置文件，config 文件必须是合法的 Yaml 或 JSON 格式 参数优先级

• 命令行参数 > 默认值 > 配置文件

python3 xiaogpt.py --config xiao_config.yaml
# 或者
xiaogpt --config xiao_config.yaml

或者

cp xiao_config.yaml.example xiao_config.yaml
python3 xiaogpt.py

若要指定 OpenAI 的模型参数，如 model、temperature、top_p，请在 config.yaml 中指定：

gpt_options:
  temperature: 0.9
  top_p: 0.9

具体参数作用请参考 Open AI API 文档。 ChatGLM 文档

配置项说明

注意

1. 请开启小爱同学的蓝牙
2. 如果要更改提示词和 PROMPT 在代码最上面自行更改
3. 目前已知 LX04、X10A 和 L05B L05C 可能需要使用 --use_command，否则可能会出现终端能输出GPT的回复但小爱同学不回答GPT的情况。这几个型号也只支持小爱原本的 tts.
4. 在wsl使用时, 需要设置代理为 http://wls的ip:port(vpn的代理端口), 否则会出现连接超时的情况, 详情 报错： Error communicating with OpenAI

常见问题

1. 需要破解吗？不需要
2. 做这个有什么用呢？确实没什么用...但是挺有趣的。对你来说可能没用，但对我们来说不一定哦
3. 想改进它？欢迎提交PR和Issue。
4. 还有问题？请提Issue哈哈
5. 异常：错误 https://api2.mina.mi.com/admin/v2/device_list?master=0&requestId=app_ios_xxx：登录失败 @KJZH001
   这是由小米风控导致的，海外地区无法登录大陆账户，请尝试使用cookie登录 如果无法抓包，可以在本地部署完项目后，在用户文件夹C:\Users\用户名下找到.mi.token，然后将其复制到无法登录的服务器上
   如果是linux系统，请将其放在当前用户的home文件夹中，然后重新执行之前的命令，通常就可以正常登录了（但cookie可能会在一段时间后失效，需要重新获取）
   详情请参见 https://github.com/yihong0618/xiaogpt/issues/332

视频教程

https://www.youtube.com/watch?v=K4YA8YwzOOA

Docker

常规用法

X86/ARM Docker镜像: yihong0618/xiaogpt

docker run -e OPENAI_API_KEY=<你的openapi密钥> yihong0618/xiaogpt <命令行参数>

例如

docker run -e OPENAI_API_KEY=<你的openapi密钥> yihong0618/xiaogpt --account=<你的小米账号> --password=<你的小米密码> --hardware=<你的小米硬件> --use_chatgpt_api

使用配置文件

xiaogpt的配置文件可以通过指定卷/config以及参数--config来处理，如

docker run -v <你的配置目录>:/config yihong0618/xiaogpt --config=/config/config.yaml

使用host网络模式

docker run -v <你的配置目录>:/config --network=host yihong0618/xiaogpt --config=/config/config.yaml

本地构建Docker镜像

 docker build -t xiaogpt .

如果在安装依赖时构建失败或安装速度慢，可以在构建Docker镜像时使用--build-arg参数指定国内源地址：

docker build --build-arg PIP_INDEX_URL=https://pypi.tuna.tsinghua.edu.cn/simple -t xiaogpt .

如果需要在Apple M1/M2上编译x86版本

 docker buildx build --platform=linux/amd64 -t xiaogpt-x86 .

第三方 TTS

我们目前支持三种第三方 TTS：edge/openai/azure/volc/baidu/google

edge-tts 提供了类似微软tts的功能 azure-tts 提供了微软 azure tts 的功能 openai-tts 提供了类似 openai tts 的功能

使用方法

你可以通过参数 tts 来启用它

tts: edge

对于edge，查看更多语言支持，从中选择一个

edge-tts --list-voices

在容器中使用 edge-tts/azure-tts/openai-tts/volc/google/baidu

由于 Edge TTS 启动了一个本地的 HTTP 服务，所以需要将容器的端口映射到宿主机上，并且指定本地机器的 hostname:

docker run -v <你的配置目录>:/config -p 9527:9527 -e XIAOGPT_HOSTNAME=<你的IP地址> yihong0618/xiaogpt --config=/config/config.yaml

注意端口必须映射为与容器内一致，XIAOGPT_HOSTNAME 需要设置为宿主机的 IP 地址，否则小爱无法正常播放语音。

推荐的类似项目

• XiaoBot -> Go语言版本的Fork，带支持不同平台的UI
• MiGPT -> Node.js 版，支持流式响应和长短期记忆

感谢

• xiaomi
• PDM
• Tetos TTS 云服务支持
• @Yonsm 的 MiService
• @pjq 给了这个项目非常多的帮助
• @frostming 重构了一些代码，支持了持续会话功能

赞赏

谢谢就够了