gpt-4chan-public

GPT-4chan 的代码

注意：此仓库仅包含辅助代码以及我对其他库所做的少量修改。实际模型的源代码位于 https://github.com/kingoflolz/mesh-transformer-jax/。

数据集在此：https://zenodo.org/record/3606810

模型在此：https://huggingface.co/ykilcher/gpt-4chan

网站在此：https://gpt-4chan.com

另外，我不会公开机器人代码。

gpt-4chan-public 快速上手指南

环境准备

本项目主要包含辅助代码，核心模型运行依赖于 mesh-transformer-jax。请确保满足以下系统要求：

• 操作系统: Linux (推荐 Ubuntu 18.04+)
• 硬件: 需要配备多块 TPU 或高性能 GPU 的环境（基于 JAX/TPU 架构）
• 前置依赖:
  • Python 3.7+
  • JAX / Flax
  • Git

安装步骤

由于核心逻辑位于外部仓库，请按顺序克隆项目并安装依赖。

1. 克隆辅助代码仓库

   git clone https://github.com/ykilcher/gpt-4chan-public.git
   cd gpt-4chan-public
   

2. 获取核心引擎 (mesh-transformer-jax) 核心模型代码不在本仓库中，需从官方源获取：

   git clone https://github.com/kingoflolz/mesh-transformer-jax.git
   

3. 下载模型权重与数据

   • 模型权重: 从 Hugging Face 下载 地址：https://huggingface.co/ykilcher/gpt-4chan
   • 训练数据: 从 Zenodo 下载 地址：https://zenodo.org/record/3606810

   注：国内开发者若访问 Hugging Face 或 Zenodo 较慢，建议配置镜像加速或使用代理工具。

4. 安装 Python 依赖 进入核心引擎目录并安装所需库（具体依赖请参考 mesh-transformer-jax 的 requirements）：

   cd mesh-transformer-jax
   pip install -r requirements.txt
   

基本使用

本仓库 (gpt-4chan-public) 仅提供辅助脚本和修改补丁，不包含直接运行的机器人主程序（作者明确表示不发布 bot code）。

要使用模型，您需要在 mesh-transformer-jax 环境中加载下载的权重。以下是最基础的加载与推理逻辑示例（基于 JAX 生态通用写法）：

import mesh_transformer
from mesh_transformer.checkpoint import read_ckpt
from mesh_transformer.transformer_shard import ScaledTransformer

# 初始化模型配置 (需根据实际下载的 config.json 调整)
params = {
    "layers": 28,
    "d_model": 4096,
    "n_heads": 16,
    # ... 其他参数参考原模型配置
}

model = ScaledTransformer(params)

# 加载权重 (假设权重已下载至 local_path)
model.params = read_ckpt(model.params, "local_path/to/gpt-4chan", 0, None, False)

# 执行推理 (伪代码示例，具体调用需参考 mesh-transformer-jax 文档)
# output = model.generate(prompt="Your input text here")

注意：

• 请访问 https://gpt-4chan.com 查看在线演示效果。
• 具体的推理脚本编写需深入参考 mesh-transformer-jax 仓库中的示例代码。