ComfyUI 中的 Phi-3-mini

项目介绍

• 将微软 Phi-3-mini-4k-instruct 模型引入到 ComfyUI 中，模型体积小，运行速度快，性能强大（可与 GPT-3.5 和 Mixtral 8x7B 相媲美）

• Phi-3-mini-4k-instruct 开源可商用（MIT 许可），中文表现出色，可用于生成/补全提示词或畅聊人生！

• 版本：V1.0 支持系统提示词，支持单/多轮对话双模式，支持中文输入并自动输出英文提示词

详细说明

• 节点:

  • 🏖️Phi3mini 4k ModelLoader：自动下载模型（请确保网络连接良好）

  • 🏖️Phi3mini 4k：支持设置系统指令（System Instruction）

  • 🏖️Phi3mini 4k Chat：支持设置系统指令（System Instruction）+ 多轮对话

• 节点示例：

• 上下文多轮对话：

参数说明

• model：接入模型
• tokenizer：分词器
• prompt：提示词
• system_instruction：系统指令
• temperature：随机性

安装

• 环境依赖要求：transformers>=4.40.0，手动升级：pip uninstall -y transformers && pip install git+https://github.com/huggingface/transformers

• 推荐使用管理器 ComfyUI Manager 安装（即将推出）

• 手动安装：

  1. cd custom_nodes
  2. https://github.com/ZHO-ZHO-ZHO/ComfyUI-Phi-3-mini.git
  3. cd custom_nodes/ComfyUI-Phi-3-mini
  4. pip install -r requirements.txt
  5. 重启 ComfyUI

• 输出节点可配合像ComfyUI-Gemini中 ✨DisplayText_Zho 一样的任何接受文本的节点

工作流

V1.0 工作流

Phi-3-mini-4k + CosXL【Zho】

Phi-3-mini-4k Chat【Zho】

更新日志

20240426

• V1.0：支持系统提示词，支持单/多轮对话双模式，支持中文输入并自动输出英文提示词

• 创建项目

Stars

关于我

📬 联系方式：

• 邮箱：zhozho3965@gmail.com
• QQ 群：839821928

🔗 社交媒体：

• 个人页：-Zho-
• Bilibili：我的B站主页
• X（Twitter）：我的Twitter
• 小红书：我的小红书主页

💡 支持我：

• B站：B站充电
• 爱发电：为我充电

致谢

Phi-3-mini-4k-instruct