infinite-bookshelf - 利用Groq和Llama3技术的流式书籍创作应用

无限书架项目介绍

简介

无限书架（Infinite Bookshelf）是一个基于Streamlit应用开发的平台，可以在数秒内生成全新的图书内容。它运用了Groq和Llama3技术，尤其适合生成非小说类书籍。用户只需输入一句提示词，平台就可以即时生成一个章节完整的书籍。这项技术不仅能生成书籍的结构，还能自动补充内容，其中Llama3-8b和Llama3-70b各司其职：前者负责生成内容，后者则用于构建书籍的整体结构。目前，生成的内容仅基于章节标题，未来将扩展为利用更丰富的书籍上下文来生成高质量的小说内容。

功能特点

智能提示：在速度和质量之间智能切换Llama3-70b和Llama3-8b，提供快速且高质量的书籍生成。
美观设计：使用Markdown格式在Streamlit应用上呈现美观的书籍，包括表格和代码示例。
内容下载：允许用户下载包含完整书籍内容的文本文件。

示例生成书籍

示例	提示词
LLM基础	大型语言模型的基础知识
数据结构与算法	Java中的数据结构与算法

快速入门

要使用无限书架（Infinite Bookshelf），可以访问已托管的版本，或者按照以下说明在本地运行。

托管版

用户可以通过[infinite.benjamin.sh]访问无穷书架的托管版本。

本地运行

设置环境变量（可选）：将Groq API密钥设置为环境变量，以跳过稍后输入密钥的步骤。
```
export GROQ_API_KEY="gsk_yA..."
```

设置虚拟环境：安装必要的依赖。

python3 -m venv venv
source venv/bin/activate   # For Bash
venv\Scripts\activate.bat  # On Windows
pip3 install -r requirements.txt

安装gtk3（仅限Windows用户）：可能需要安装gtk3。
运行Streamlit应用：启动应用程序。
```
python3 -m streamlit run main.py
```

详细信息

所用技术

Streamlit
Groq云上的Llama3

局限性

无限书架可能生成不准确的信息或占位符内容，建议仅用于生成便于娱乐的书籍。

参与贡献

欢迎通过提交PR来改进项目！

更新日志

v0.2.0（2024年5月29日）：新增推断统计功能。
v0.3.0（2024年6月8日）：新增以样式化PDF格式下载书籍的功能。

未来功能

能够为书籍命名，并在下载时显示
能够将书籍保存到Google Drive
可选的种子内容字段，用于输入现有笔记

无限书架致力于通过高效的技术，帮助用户快速获得所需的知识，是知识获取领域的一次革新尝试。