ChatGPT 是基于 GPT-3.5，通过 RLHF（人类反馈强化学习）对人类指令和对话进行了微调。

替代方案则是使用不同指令微调语言模型来实现聊天功能的项目。如果项目属于以下情况，则不会被计入：

• 仅调用 OpenAI API 的前端替代项目。
• 使用未针对人类指令或对话进行微调的语言模型。

标签说明：

• 裸奔：仅有源代码，无数据、模型权重及聊天系统。
• 标准：有数据、有模型权重，仅通过 API 提供基础聊天功能。
• 完整：包含数据、模型权重，并配有 TUI 和 GUI 等高级聊天系统。
• 复杂：半开源、并非真正开源，基于闭源模型等。

其他相关列表：

• yaodongC/awesome-instruction-dataset：一个用于训练遵循指令的大语言模型（如 ChatGPT、LLaMA、Alpaca）的开源数据集合。

目录

1. 模板
2. 列表
   • lucidrains/PaLM-rlhf-pytorch
   • togethercomputer/OpenChatKit
   • oobabooga/text-generation-webui
   • KoboldAI/KoboldAI-Client
   • LAION-AI/Open-Assistant
   • tatsu-lab/stanford_alpaca
     • 其他 LLaMA 衍生项目
   • BlinkDL/ChatRWKV
   • THUDM/ChatGLM-6B
   • bigscience-workshop/xmtf
   • carperai/trlx
   • databrickslabs/dolly
   • LianjiaTech/BELLE
   • ethanyanjiali/minChatGPT
   • cerebras/Cerebras-GPT
   • TavernAI/TavernAI
   • Cohee1207/SillyTavern
   • h2oai/h2ogpt
   • mlc-ai/web-llm
   • Stability-AI/StableLM
   • clue-ai/ChatYuan
   • OpenLMLab/MOSS

模板

请将新项目添加到文件末尾：

## [{owner}/{project-name}]{https://github.com/link/to/project}

此处填写项目描述

标签：裸奔/标准/完整/复杂

列表

lucidrains/PaLM-rlhf-pytorch

在 PaLM 架构基础上实现了 RLHF（人类反馈强化学习）。本质上是基于 PaLM 的 ChatGPT。

标签：裸奔

togethercomputer/OpenChatKit

OpenChatKit 提供了一个功能强大且开源的基础框架，可用于构建适用于各种应用场景的专业化和通用型聊天机器人。

相关链接：

• spaces/togethercomputer/OpenChatKit

标签：完整

oobabooga/text-generation-webui

这是一个基于 Gradio 的 Web UI，可用于运行 GPT-J 6B、OPT、GALACTICA、LLaMA 和 Pygmalion 等大型语言模型。

标签：完整

KoboldAI/KoboldAI-Client

这是一个基于浏览器的前端工具，支持本地与远程多种 AI 模型的辅助写作功能。它提供了标准的功能集合，包括记忆、作者笔记、世界背景信息、保存与加载、可调节的 AI 设置、格式化选项，以及导入现有 AI Dungeon 冒险内容的能力。此外，还可以开启冒险模式，以类似 AI Dungeon Unleashed 的方式玩游戏。

标签：完整

LAION-AI/Open-Assistant

OpenAssistant 是一款基于聊天的助手，能够理解任务、与第三方系统交互，并动态获取信息来完成这些任务。

相关链接：

• huggingface.co/OpenAssistant
• r/OpenAssistant/

标签：完整

tatsu-lab/stanford_alpaca

这是斯坦福 Alpaca 项目的仓库，旨在构建并分享一个遵循指令的 LLaMA 模型。

标签：复杂

其他 LLaMA 衍生项目：

• pointnetwork/point-alpaca 发布了基于斯坦福 Alpaca 重新训练的权重，这是一项在合成指令数据集上微调 LLaMA 的实验。
• tloen/alpaca-lora 提供了使用低秩适应（LoRA）重现斯坦福 Alpaca 结果的代码。
• ggerganov/llama.cpp 是一个可在 CPU 上运行的 C/C++ 版本的 LLaMA 推理端口，支持 alpaca、gpt4all 等模型。
• setzer22/llama-rs 是 llama.cpp 项目的 Rust 移植版。
• juncongmoo/chatllama 是一个基于 LLaMA 的 ChatGPT 开源实现，可在单个 GPU 上运行。
• Lightning-AI/lit-llama 是基于 nanoGPT 的 LLaMA 语言模型实现。
• nomic-ai/gpt4all 包含演示、数据和代码，用于基于 LLaMA 训练一个约 80 万次 GPT-3.5-Turbo 生成的助理型大型语言模型。
• hpcaitech/ColossalAI#ColossalChat 是一个开源解决方案，可通过完整的 RLHF 流程克隆 ChatGPT。
• lm-sys/FastChat 是一个开放平台，用于训练、部署和评估基于大型语言模型的聊天机器人。
• nsarrazin/serge 是一个通过 llama.cpp 与 Alpaca 对话的 Web 界面。完全容器化，并提供易于使用的 API。

BlinkDL/ChatRWKV

ChatRWKV 类似于 ChatGPT，但其底层语言模型为 RWKV（100% RNN），并且是开源的。

标签：完整

THUDM/ChatGLM-6B

ChatGLM-6B 是一个基于通用语言模型（GLM）框架的开源双语语言模型，拥有 62 亿个参数。借助量化技术，用户可以在消费级显卡上进行本地部署，INT4 量化级别下仅需 6GB 显存。

相关链接：

• 替代 Web UI：Akegarasu/ChatGLM-webui
• 精简版（移除 2 万个图像标记以降低内存占用）：silver/chatglm-6b-slim
• 使用低秩适应（LoRA）微调 ChatGLM-6B：lich99/ChatGLM-finetune-LoRA
• 在 Modelz 上部署 ChatGLM：tensorchord/modelz-ChatGLM
• 基于 Basaran 构建、内置 Playground UI 并兼容 OpenAI 流式 API 的 Docker 镜像：peakji92/chatglm:6b

标签：完整

bigscience-workshop/xmtf

该仓库概述了用于创建 BLOOMZ 和 mT0 以及论文《通过多任务微调实现跨语言泛化》中介绍的 xP3 的所有组件。论文链接：Crosslingual Generalization through Multitask Finetuning。

相关链接：

• bigscience/bloomz
• bigscience/mt0-base

标签：标准

carperai/trlx

这是一个用于通过人类反馈强化学习（RLHF）对语言模型进行分布式训练的仓库，支持高达 200 亿参数的在线 RL 以及更大规模模型的离线 RL。基本上，这就是将 GPT 微调为 ChatGPT 所用的技术。

标签：裸

databrickslabs/dolly

Databricks 的 dolly-v2-12b 是一款指令遵循型大型语言模型，在 Databricks 机器学习平台上训练而成，并获准用于商业用途。它基于 pythia-12b 训练，使用约 1.5 万条由 Databricks 员工在 InstructGPT 论文所定义的能力领域内生成的指令-响应微调数据集 databricks-dolly-15k。

相关链接：

• dolly v2 12B 商业可用模型
• dolly v1 6b 模型卡片

标签：标准

LianjiaTech/BELLE

该项目旨在推动中文大规模对话模型开源社区的发展。除了原始的 Stanford Alpaca 外，该项目还优化了中文性能。模型微调仅使用通过 ChatGPT 生成的数据（不包含其他数据）。该仓库包含：175 个用于生成数据的中文种子任务、生成数据的代码、用于微调模型的 0.5M 条生成数据，以及基于本项目生成的数据对 BLOOMZ-7B1-mt 进行微调后的模型。

相关链接：

• 英文说明文档

标签：标准

ethanyanjiali/minChatGPT

一个类似于 ChatGPT 的、使用 RLHF 对齐语言模型的最小示例。

相关链接：

• huggingface.co/ethanyanjiali/minChatGPT

标签：标准

cerebras/Cerebras-GPT

7 款开源的 GPT-3 风格模型，参数范围从 1.11 亿到 130 亿不等，采用 Chinchilla 公式训练而成。模型权重已按照宽松许可协议（特别是 Apache 2.0 许可）发布。

相关链接：

• 公告
• 其他参数规模的模型

标签：标准

TavernAI/TavernAI

默认搭载 AI 语言模型 Pygmalion，也可与其他模型如 KoboldAI、ChatGPT、GPT-4 等配合使用的氛围感冒险聊天应用。

标签：完整

Cohee1207/SillyTavern

SillyTavern 是 TavernAI 1.2.8 的一个分支，目前开发更为活跃，并添加了许多重要功能。此时两者可以被视为完全独立的程序。Tavern 单独使用并无意义，因为它只是一个用户界面。你需要一个能够扮演角色扮演角色的 AI 后端系统。支持的后端包括：OpenAPI API（GPT）、KoboldAI（可在本地或 Google Colab 上运行）等。

标签：完整

h2oai/h2ogpt

h2oGPT——全球最佳开源 GPT

• 开源仓库，代码、数据和模型均采用完全宽松的许可，可商用。
• 用于准备大型开源数据集作为大型语言模型（LLMs）微调指令数据集的代码，包括提示工程。
• 用于在消费级硬件和企业级 GPU 服务器上（单节点或多节点）微调大型语言模型的代码（目前最高可达 200 亿参数）。
• 用于在 GPU 服务器上运行聊天机器人，并提供可共享的端点及 Python 客户端 API 的代码。
• 用于评估和比较微调后 LLM 性能的代码。

相关链接：

• h2oGPT 20B
• 🤗 h2oGPT 12B #1
• 🤗 h2oGPT 12B #2

标签：完整

mlc-ai/web-llm

将大型语言模型和聊天带入网页浏览器。一切都在浏览器内部运行，无需任何服务器支持。

相关链接：

• https://mlc.ai/web-llm

标签：完整

Stability-AI/StableLM

该仓库记录了 Stability AI 正在进行的 StableLM 系列语言模型的开发工作，并将持续更新新的检查点。

相关链接：

• huggingface.co/spaces/stabilityai/stablelm-tuned-alpha-chat
• StableVicuna，它是 Vicuna-13B v0 的 RLHF 微调版本，而 Vicuna-13B 本身又是 LLaMA-13B 的微调版本。

标签：完整

clue-ai/ChatYuan

ChatYuan：中英双语对话大型语言模型（仓库内容主要为中文）。

相关链接：

• 部分英文翻译的 README

标签：完整

OpenLMLab/MOSS

MOSS：复旦大学推出的一款开源工具增强型对话语言模型。（大多数示例为中文）

相关链接：

• 英文README

标签：完整

Awesome Totally Open ChatGPT 快速上手指南

awesome-totally-open-chatgpt 是一个精选列表，收录了真正开源的类 ChatGPT 项目。这些项目不仅包含源代码，通常还提供模型权重和训练数据，且并非仅仅调用 OpenAI API 的前端套壳。

由于该仓库是项目合集而非单一软件，本指南将指导你如何根据需求选择合适的项目，并以两个最具代表性的全栈项目（ChatGLM-6B 和 text-generation-webui）为例演示快速部署。

环境准备

在开始之前，请确保你的开发环境满足以下基本要求。不同项目对硬件要求差异较大，建议优先使用配备 NVIDIA GPU 的环境。

系统要求

• 操作系统: Linux (推荐 Ubuntu 20.04+), macOS, 或 Windows (需 WSL2)
• Python: 3.8 - 3.10 (具体版本视项目而定)
• GPU:
  • 入门级：显存 ≥ 6GB (可运行量化后的 6B-7B 模型，如 ChatGLM-6B INT4)
  • 推荐级：显存 ≥ 12GB (可流畅运行 13B 模型或全精度 6B 模型)
  • 高级：多卡环境或 A100/H100 (用于训练或运行大参数模型)

前置依赖

• Git: 用于克隆代码仓库
• CUDA Toolkit: 如需使用 GPU 加速，请安装与 PyTorch 版本匹配的 CUDA (通常 11.7 或 11.8)
• 包管理器: pip 或 conda (推荐使用 conda 管理虚拟环境)

国内加速建议：

• 克隆仓库时可使用 Gitee 镜像（如果项目有同步）或配置 git config --global url."https://ghproxy.com/".insteadOf "https://github.com/"
• Python 包安装请替换为清华源或阿里源：pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple
• 模型下载推荐使用 Hugging Face 国内镜像站 (如 hf-mirror.com) 或 ModelScope (魔搭社区)。

---

安装步骤

由于列表中包含多个独立项目，以下提供两种典型场景的安装流程。

场景一：部署中文友好的本地对话模型 (以 ChatGLM-6B 为例)

适合希望快速在本地消费级显卡上运行双语对话模型的用户。

1. 克隆项目仓库

   git clone https://github.com/THUDM/ChatGLM-6B.git
   cd ChatGLM-6B
   

2. 创建虚拟环境并安装依赖

   conda create -n chatglm python=3.10
   conda activate chatglm
   pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple
   

3. 下载模型权重 注：原项目依赖 Hugging Face，国内用户建议从 ModelScope 下载或使用镜像。

   方式 A (使用 Git LFS 从 Hugging Face 镜像下载):

   # 设置镜像环境变量
   export HF_ENDPOINT=https://hf-mirror.com
   git lfs install
   git clone https://hf-mirror.com/THUDM/chatglm-6b
   

   方式 B (从 ModelScope 下载 - 推荐国内用户):

   pip install modelscope
   # 在 Python 中执行下载
   python -c "from modelscope import snapshot_download; snapshot_download('ZhipuAI/chatglm-6b', cache_dir='./')"
   

场景二：部署通用 WebUI 加载多种开源模型 (以 text-generation-webui 为例)

适合希望尝试 LLaMA、Alpaca、Pygmalion 等多种模型并提供图形界面的用户。

1. 克隆项目仓库

   git clone https://github.com/oobabooga/text-generation-webui.git
   cd text-generation-webui
   

2. 一键安装脚本 (Linux/Mac)

   ./start_linux.sh
   # 或者手动安装
   conda create -n textgen python=3.10
   conda activate textgen
   pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118
   pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple
   

3. 下载模型 将下载的模型文件（通常是 .bin 或 .safetensors 格式，来自 HuggingFace 或 TheBloke 的量化版本）放入 models/ 目录。

   mkdir models
   # 示例：下载量化的 Alpaca 模型 (需自行替换为实际下载链接)
   wget -P models/ <模型下载链接>
   

---

基本使用

启动 ChatGLM-6B (命令行交互)

进入项目目录，运行官方提供的 CLI 脚本。如果是低显存显卡（<12GB），务必开启量化模式。

# 普通模式 (需要约 13GB 显存)
python cli_demo.py

# 量化模式 (INT4, 仅需约 6GB 显存，推荐)
python cli_demo.py --quantize 4

交互示例：

欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空历史，stop 停止程序。
> 你好，请介绍一下你自己。
你好！我是 ChatGLM-6B，一个由清华大学知识工程实验室研发的双语对话模型...

启动 text-generation-webui (Web 界面)

在项目根目录下运行启动脚本，系统将自动加载 models 目录下的模型并启动 Web 服务。

# 启动 Web UI，默认监听 localhost:7860
python server.py --model <模型文件夹名称> --listen

访问方式： 打开浏览器访问 http://127.0.0.1:7860 (若添加了 --listen 参数且配置了防火墙，可通过局域网 IP 访问)。

操作简述：

1. 在右侧面板选择已下载的模型。
2. 点击 "Load" 加载模型。
3. 在左侧聊天窗口输入提示词，点击 "Generate" 即可体验类似 ChatGPT 的对话功能。

---

其他推荐项目简述

根据你的具体需求，列表中还有其他优秀项目可供选择：

• 需要完整训练管线 (RLHF): 参考 carperai/trlx 或 lucidrains/PaLM-rlhf-pytorch (标签：Bare，适合研究人员)。
• 需要角色扮演/冒险游戏: 参考 TavernAI 或 SillyTavern (标签：Full，需配合后端 API 使用)。
• 需要纯浏览器运行: 参考 mlc-ai/web-llm (无需服务器，直接在浏览器运行模型)。
• 需要商业友好许可: 参考 databrickslabs/dolly 或 cerebras/Cerebras-GPT (标签：Standard)。

请前往各项目的 GitHub 主页获取更详细的参数调整和进阶用法文档。