多模态LLM API的聊天机器人门户
欢迎来到我的聊天机器人门户,这是一个基于 Node.js 的全功能Web应用程序,允许用户与由 OpenAI 的 GPT-4 API 提供支持的聊天机器人互动,包括最新的 视觉、听觉 和 语音 功能,支持 图像生成、文件上传,以及通过系统提示中的高级和可编辑 自定义指令实现的更高模型性能。
GPTPortal 现在支持 Anthropic Claude 和 Mistral AI 模型,以及通过免费的API提供的 Google Gemini。它还包括一个本地 代码环境,通过 助理模式 重用 OpenAI 的 Beta API 中的文件和指令! 探索 添加的所有附加功能,例如可自定义的 聊天历史、提示模板、简易的 设置,以及更多 API 供应商。
目录
- 功能
- 示例
- 结构
- 前提条件
- 安装
- 使用
- 助理
- 作者注释
- 进一步解释
- 基本指南
- Google Gemini
- Mistral AI
- Anthropic Claude
- Meta LLaMA AI
- OpenRouter AI
- 相关链接
- 作者链接
- 研究论文
- 常见问题解答
- 术语表
- 更新
- 令牌
- 待办事项
- 快速入门
- Docker
- 贡献
- 许可协议
功能
- 支持 文本消息 的互动聊天界面。
- 通过 Whisper 转录和语音回复实现的语音对话。
- 提供讨论中的视觉背景的 图像上传 功能。
- 与七个 AI API 提供商和不断增加的数量进行服务器端集成。
- 安全访问的 基本身份验证。
- 可自定义的系统定义指令和模型参数。
- 简单直观的用户界面,具有复制到剪贴板功能。
- 标记样式聊天消息的 Markdown 渲染。
- 导出 为 HTML 按钮的对话历史记录。
- 在 "再见!" 处集成的关机功能。
- 在 "生成:" 处使用 DALL·E 3 实现的 图像生成。
- 通过手动合并 大文本 实现的文件上传。
- 可重用文件和自定义指令的 助理API模式。
- 包括状态持久的 Jupyter 环境 中的 自动Python执行。
- 上传文件的 增强生成。
- 新 的 Anthropic Claude, Google Gemini 和 Mistral 模型。
- 控制各种 ChatGPT 类功能 的 键盘快捷键。
- 通过前端用户界面 可编辑的自定义指令。
- 系统的提示模板,通过 侧边栏。
- 优化的 上下文窗口 中的对话历史。
- 自动 令牌成本 计算 和 摘要。
- 选择不同 LLM API 的 模型选择器。包括:
- GPT-4: 每一个 GPT 模型版本
- 包括 4o, Turbo, 旧 v4, 3.5 等。
- Gemini: 所有 Google Gemini 模型
- 包括 Gemini-Pro 和 Flash
- Claude Opus-Instant:
- 七个新的 Anthropic 高性能模型
- 详细介绍请参见 Anthropic AI 设置。
- 七个新的 Anthropic 高性能模型
- Mistral: 小型-中型
- 六个 新 的 Mistral AI 模型
- 智能 因大小 而异
- 详细介绍请参见 Mistral AI 设置。
- 六个 新 的 Mistral AI 模型
- LLaMA-3: 免费 Llama 模型通过 Qroq
- 开放路由: 你能想象的任何其他模型!
- GPT-4: 每一个 GPT 模型版本
// TODO: 重新编写文档
重要:要查看旧文档(它仍然适用于 v2),请参阅 旧文档在这里。
模型定价表
模型 | 每百万令牌的输入成本 | 每百万令牌的输出成本 |
---|---|---|
gpt-4 | $30.00 | $60.00 |
gpt-4-turbo | $10.00 | $30.00 |
gpt-4o | $5.00 | $15.00 |
gpt-4o-mini | $0.15 | $0.60 |
gpt-3.5-turbo-0125 | $0.50 | $1.50 |
claude-3-5-sonnet-20240620 | $3.00 | $15.00 |
claude-3-sonnet-20240229 | $3.00 | $15.00 |
claude-3-opus-20240229 | $15.00 | $75.00 |
claude-3-haiku-20240307 | $0.25 | $1.25 |
claude-2.1 | $8.00 | $24.00 |
claude-2.0 | $8.00 | $24.00 |
claude-instant-1.2 | $0.80 | $2.40 |
open-mistral-7b | $0.25 | $0.25 |
open-mixtral-8x7b | $0.70 | $0.70 |
open-mixtral-8x22b | $2.00 | $6.00 |
mistral-small-2402 | $1.00 | $3.00 |
codestral-2405 | $1.00 | $3.00 |
mistral-medium-2312 | $2.70 | $8.10 |
mistral-large-2402 | $4.00 | $12.00 |
open-mistral-nemo | $0.30 | $0.30 |
open-codestral-mamba | $0.25 | $0.25 |
免费模型
以下模型的输入或输出令牌无需费用:
- gemini-pro
- gemini-pro-vision
- gemini-1.5-pro
- gemini-1.5-flash
- llama3-70b-8192
- llama3-8b-8192
- gemma-7b-it
- mixtral-8x7b-32768