循环GPT

[📄 论文] | [🤗 演示 - 写作助手] | [🤗 演示 - 互动小说] | [📺 视频] | [🔥 Discord]

---

框架说明

循环GPT用自然语言（即段落文本）替代了长短期记忆网络（LSTM）中的向量化元素（如细胞状态、隐藏状态、输入和输出），并通过提示工程模拟递归机制。

在每个时间步t，循环GPT接收一段文本以及下一段的简要计划，这两者均在步骤t−1生成。随后，它会调用长期记忆——其中包含所有先前生成段落的摘要，并可存储于硬盘上——并通过语义搜索检索相关段落。

循环GPT还维护一个短期记忆，以自然语言总结最近几个时间步内的关键信息，并在每个时间步更新。循环GPT将上述所有输入整合到一个提示中，请求基础大模型生成新的段落、下一段的简短计划，并通过改写短期记忆以及将输出段落的摘要追加到长期记忆中来更新长短期记忆。

示例

部署

您可以修改recurrent.sh脚本中的配置：

iteration: 10                       #(int) 您希望运行的轮次数。
outfile: response.txt               #(str) 输出文件路径。
init_prompt: init_prompt.json       #(str) 初始化所用提示的路径。
topic: 外星人                       #(str) 您希望小说围绕的主题。
type: 科幻                         #(str) 您想创作的小说类型。

然后，在recurrent.sh文件中设置您的OPENAI_API_KEY后，即可运行：

sh recurrent.sh

注意：如果您的本地网络无法访问OpenAI的API，您可能还需要在recurrent.sh文件中导出HTTP代理：

export http_proxy='your_proxy'

展示案例

提示工程

迭代过程

人类作者首先选择写作主题，并撰写一段简短的文字描述背景及全书大纲。随后，循环GPT会自动生成前几段，并提供若干选项供作者继续故事。作者可从中选择一条进行编辑，或在自动生成的计划都不合适时，自行编写接下来几段的简要规划，从而使人机协作写作过程更加灵活。

网页演示

您可以直接使用我们的在线演示： https://www.aiwaves.org/recurrentgpt 和 https://www.aiwaves.org/interactivefiction

或者，您也可以在本地机器上运行：编辑utils.py中的OPENAI_API_KEY和OPENAI_Proxy，然后运行：

python gradio_server.py

使用自定义LLM进行本地部署

请参考https://github.com/jackaduma/Recurrent-LLM，以使用开源LLM进行本地部署。非常感谢@jackaduma。

引用

@misc{zhou2023recurrentgpt,
      title={循环GPT：交互式生成任意长度文本}, 
      author={周旺春树、蒋雨辰·埃莉诺、崔鹏、王天南、肖振新、侯一凡、瑞安·科特雷尔、姆林玛亚·萨昌},
      year={2023},
      eprint={2305.13304},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

RecurrentGPT 快速上手指南

RecurrentGPT 是一个基于大语言模型（LLM）的交互式长文本生成框架。它模仿 LSTM 循环神经网络机制，利用自然语言代替向量状态，通过提示工程（Prompt Engineering）实现长短期记忆管理，适用于小说创作、互动故事等场景。

环境准备

• 系统要求：Linux / macOS / Windows (需支持 Shell 脚本或手动执行命令)
• 前置依赖：
  • Python 3.8+
  • Git
  • OpenAI API Key (必须)
• 网络要求：需能访问 OpenAI API。若在国内开发，请确保已配置 HTTP 代理。

安装步骤

1. 克隆仓库

   git clone https://github.com/aiwaves-cn/RecurrentGPT.git
   cd RecurrentGPT
   

2. 安装依赖 (注：若原仓库包含 requirements.txt，请执行以下命令；若无，请根据 gradio_server.py 或脚本中引用的库手动安装，通常为 openai, gradio 等)

   pip install -r requirements.txt
   

3. 配置 API 密钥与代理 编辑根目录下的 recurrent.sh 文件，填入你的 OPENAI_API_KEY。如果本地网络无法直连 OpenAI，还需在文件中导出代理设置：

   export OPENAI_API_KEY='sk-...'
   export http_proxy='http://your_proxy_ip:port'
   export https_proxy='http://your_proxy_ip:port'
   

基本使用

方式一：命令行运行（自动生成小说）

1. 修改配置 编辑 recurrent.sh 中的参数以设定创作主题和类型：

   iteration: 10                       # 生成轮数
   outfile: response.txt               # 输出文件路径
   init_prompt: init_prompt.json       # 初始化提示词文件
   topic: Aliens                       # 小说主题，例如：外星人
   type: science-fiction               # 小说类型，例如：科幻
   

2. 执行脚本

   sh recurrent.sh
   

   程序将自动开始生成长文本，结果会保存至指定的 outfile。

方式二：启动 Web 交互界面

如果你希望进行人机协作写作（选择剧情分支、修改大纲），可启动本地 Web Demo。

1. 配置后端 编辑 utils.py 文件，填入 OPENAI_API_KEY 和 OPENAI_Proxy（如有需要）。

2. 启动服务

   python gradio_server.py
   

3. 访问界面 终端会显示本地访问地址（通常为 http://127.0.0.1:7860），在浏览器打开即可开始交互式创作。

提示：若不想本地部署，可直接访问官方在线演示：

• 写作助手：https://www.aiwaves.org/recurrentgpt
• 互动小说：https://www.aiwaves.org/interactivefiction