Arrows: 一款创新的人工智能辅助写作工具

Arrows: 重新定义AI辅助写作体验

在人工智能技术日新月异的今天,AI辅助写作已经成为许多创作者提升效率的重要工具。然而,现有的AI写作工具往往存在使用繁琐、生成内容零散等问题。Arrows应运而生,作为一款创新的AI写作前端界面,它旨在通过独特的设计理念和操作方式,为用户带来全新的AI辅助写作体验。

Arrows的设计围绕三个核心原则展开:

生成完整段落: 与其他固定生成token数量的AI工具不同,Arrows会在段落结束时停止请求更多token,确保每次生成的内容都是一个语义完整的段落。这种方式更符合写作的自然逻辑,让用户能够更好地把握文章的脉络。
提供双重选择: Arrows每次会生成下一段落的两个版本,供用户选择。这不仅增加了内容的多样性,还能激发创意灵感。更重要的是,通过正确配置后端(如llama.cpp),这种批量生成可以几乎零成本地实现,相当于将生成速度翻倍!
零界面设计: Arrows摒弃了传统软件中常见的按钮、标签和菜单,其用户界面仅由正在编辑的文本构成。所有与LLM相关的操作都通过六个直观的快捷键完成,极大简化了操作流程。

这种极简设计不仅让用户专注于写作本身,还大大降低了学习成本,使得即使是AI写作新手也能快速上手。

Arrows支持任何提供OpenAI兼容文本补全API的后端,包括但不限于:

这种广泛的兼容性使得用户可以根据自己的需求和条件选择最合适的后端,无论是本地部署还是云端服务。

需要注意的是,Arrows主要面向基于补全的写作工作流,如果你更倾向于指令式工作流(即明确告诉AI下一步写什么),那么可能需要寻找其他更适合的工具。

Arrows界面示例

Arrows作为一款基于浏览器的文本编辑器,支持所有标准的文本编辑快捷键。此外,它还提供了以下专门用于AI写作功能的快捷键:

这些快捷键设计直观易记,让用户可以在键盘上快速完成所有AI辅助写作操作,大大提升了工作效率。

只要你的系统已安装Git和Node.js,安装Arrows就变得异常简单:

git clone https://github.com/p-e-w/arrows.git
cd arrows
npm install

运行Arrows最简单的方法是在安装目录中执行:

npm run dev

然后在浏览器中打开显示的URL即可。如果需要构建生产版本,可以使用:

npm run build

之后将dist目录部署到你选择的Web服务器上即可。

配置方面,只需编辑src/config.ts文件,即可设置基础URL、API密钥以及生成参数等。

Arrows采用完全异步的架构,能够并行流式传输两个补全选项。这一特性可以显著节省用户和GPU的时间。然而,要充分发挥并行生成的优势,后端服务器需要支持并发请求,最好能够自动批处理。

截至2024年6月,text-generation-webui尚不支持并发请求处理。当用作Arrows的后端时,左右选项将被顺序生成,而非并行。

相比之下,llama.cpp服务器支持并发请求。要启用此功能,只需在运行服务器时添加以下参数:

--parallel 2 --cont-batching

这将极大地提升Arrows的生成效率,为用户带来更加流畅的写作体验。

Arrows并行生成示例

Arrows采用GNU Affero通用公共许可证(AGPL)第3版或更高版本发布。这意味着:

这种开源协议既保障了软件的自由使用和改进,也确保了衍生作品继续保持开放,促进了社区的共同发展。

Arrows的出现,标志着AI辅助写作工具进入了一个新的阶段。它不仅仅是一个技术创新,更是对写作过程本身的重新思考。通过结合人工智能的强大生成能力和人类作者的创造性判断,Arrows为我们展示了未来写作的无限可能。

无论你是专业作家、内容创作者,还是对AI写作感兴趣的技术爱好者,Arrows都值得一试。它可能会改变你的写作方式,激发你的创意灵感,让AI辅助写作变得更加自然和高效。

在这个AI与人类智慧不断融合的时代,Arrows无疑为我们开启了一扇通往写作新世界的大门。让我们一起探索,一起创造,共同书写AI辅助写作的精彩未来。