CreativeChatGLM 项目简介
CreativeChatGLM 是一个通过 Web 界面展示的人工智能聊天项目,目的是为用户提供一个生成创意内容的平台。用户可以通过项目提供的续写和修订功能,在与 AI 的互动中生成或修改文本,以实现更具创造性的表达。
项目功能
-
续写功能:用户可以输入一个开头,然后点击“续写”按钮,此时 ChatGLM 会根据开头自动生成后续内容,为用户提供灵感和帮助。例如,输入“我今年”后,AI 可以输出完整的句子如“我今年21岁。”
-
修订功能:用户可以使用“修订”按钮对 ChatGLM 返回的最后一句进行修改,以更好地符合用户的需求。例如,将“我是一个人工智能助手”修改为“我是杨开心”,从而使续写内容更贴合用户要求。
环境配置
为了让更多的人能够轻松地使用 CreativeChatGLM,该项目提供了多种安装方式,满足不同用户的需求。
离线包
离线包的下载和安装非常适合没有开发背景、不懂 Python 并且网络条件不佳的用户。这些包包括多种显存需求的版本,从 5.3 GB 到 16.98 GB 不等。用户可以选择合适的版本下载,解压后通过运行 start_offline.bat
脚本启动服务。
虚拟环境
如果用户已经拥有 Python 安装,并希望新环境与系统已有环境隔离,可以选择虚拟环境安装方式。这种方式需要通过 setup_venv.bat
脚本创建虚拟环境,然后使用 start_venv.bat
启动服务。
Python 开发环境
对于代码开发人员来说,可以直接在自己的 Python 环境中进行安装配置。具体的安装步骤可以参考项目的 GitHub 链接,配置完成后,通过运行 app.py
文件启动程序或进行进一步的开发。
实现原理
CreativeChatGLM 的续写和修订功能基于对模型推理函数的一些调整,而非训练或修改模型权重。续写是通过将用户输入设置为 history[-1][1]
,然后继续推理来实现,而修订则是直接设置为模型自己的输出。
使用说明
为了帮助用户直观了解使用过程,项目提供了一系列的图片和视频演示,展示了如何使用续写和修订功能生成创意对话。
许可证信息
CreativeChatGLM 项目代码遵循 Apache-2.0 开源协议。ChatGLM-6B 模型的权重则需要遵循模型许可证。
通过这些功能和配置选项,CreativeChatGLM 为用户提供了一个灵活且容易上手的平台,让使用者从简单的文本互动中获得创意与灵感。