Z80-μLM：一款复古计算微型语言模型

Z80-μLM 是一款“对话式 AI”，能够逐字符生成短序列，并采用量化感知训练（QAT）技术，以便在配备 64KB 内存的 Z80 处理器上运行。

该项目的出发点是这样一个问题：在保持一定个性的同时，模型还能做到多小？并且是否可以轻松地进行训练或微调？同时实现便捷的自托管部署？

答案是肯定的！我们已经成功构建了一个 40KB 的 .com 可执行文件（包含推理引擎、权重以及聊天风格的用户界面），可在一台 1976 年生产的 4MHz 处理器上运行。

它或许无法通过图灵测试，但也许能在绿屏前让你会心一笑。

如需了解如何更好地训练自己的模型，请参阅 TRAINING.md。

示例

项目中包含了两个预构建的示例：

tinychat

这是一个基于日常问答对训练的对话型聊天机器人。它能回应问候、关于自身的问题，以及一些轻松的闲聊，给出简洁而富有个性的回答。

> hello
HI
> are you a robot
YES
> do you dream
MAYBE

guess

这是一个“二十问”游戏，模型会设定一个秘密主题，而你则通过提问来猜测。回答可能是 YES、NO 或 MAYBE。猜对即可获胜。

该示例还提供了使用 LLM（Ollama 或 Claude API）生成训练数据并平衡类别分布的工具。

快速入门

不到 5 分钟即可开始运行：

1. 下载 GitHub 发布页面上的预编译二进制文件：GitHub Releases

2. 安装模拟器：

平台	CP/M (.COM 文件)	ZX Spectrum (.TAP 文件)
Linux	iz-cpm	apt install fuse-emulator-gtk
Windows	iz-cpm	Fuse
macOS	iz-cpm	brew install fuse-emulator

3. 运行：

• CP/M：iz-cpm CHAT.COM
• ZX Spectrum：先运行 fuse --tape CHAT.TAP，然后输入 LOAD "" CODE 并执行 RANDOMIZE USR 32768

如需从源码构建或训练自己的模型，请参阅 TRAINING.md。

特性

• 三元组哈希编码：输入文本被哈希为 128 个桶——容错性强，且不受词序影响。
• 2 位权重量化：每个权重取值为 {-2, -1, 0, +1}，每字节打包 4 个。
• 16 位整数推理：所有计算均使用 Z80 原生的 16 位有符号算术。
• 约 40KB 的 .COM 文件：可容纳于 CP/M 的临时程序区（TPA）。
• 自回归生成：逐字符输出文本。
• 无浮点运算：所有计算均为整数运算，并采用定点缩放。
• 交互式聊天模式：直接运行 CHAT 即可，无需任何参数。

平台支持

Z80-μLM 支持多种基于 Z80 的平台：

• CP/M：原始目标平台。使用 buildz80com.py 生成 .COM 文件。
• ZX Spectrum 48K：通过 buildz80tap.py 提供完整支持。详情请参阅 ZX-SPECTRUM.md。
  • 生成用于模拟器或真实硬件的 .TAP 文件。
  • 使用 ZX Spectrum ROM 子程序进行 I/O 操作。
  • 内存针对 48K 系统进行了优化。
  • 兼容大多数 ZX Spectrum 模拟器。

对于 ZX Spectrum 构建版本，可使用示例目录中的 run-zx.sh 脚本，或参考 ZX Spectrum 指南。

交互风格

模型并不真正理解你的输入。然而，它却以某种方式“读懂”了你。

你的输入会通过三元组编码被哈希到 128 个桶中——这是一种抽象的“标签云”表示法。模型响应的是你输入的“形状”，而非确切的词语：

"hello there"  →  [桶 23: 64, 桶 87: 32, ...]
"there hello"  →  [桶 23: 64, 桶 87: 32, ...]  (相同！)
"helo ther"    →  [桶 23: 32, 桶 87: 32, ...]  (相似——容错性强)

这种机制对于短句输入非常有效，但也存在局限性：较长或依赖词序的句子可能会因为多个概念竞争同一组桶而变得模糊。“打开门并开灯”很可能与“开开门并打开灯”难以区分。

短小的回答，丰富的含义

仅用一两句话就能传达出令人惊讶的细微差别：

• OK —— 表示认可，态度中立。
• WHY? —— 质疑你的前提。
• R U? —— 抛出存在主义式的疑问。
• MAYBE —— 表示真正的不确定性。
• AM I? —— 将问题原封不动地抛回给你。

这并不一定是缺点，而是一种不同的交互方式。简短的回答迫使你根据上下文推断含义，或者通过直接的“是/否”问题来试探它是否真的理解（例如，“你是机器人吗？”、“你是人类吗？”、“我是人类吗？”等）。这些问题是经过逻辑一致处理的，模型会给出预先记忆的答案。

适合的应用场景

• 短小、多样化的输入，搭配结构化且一致的输出。
• 模糊匹配（拼写错误、改写、词序变化）。
• 通过词汇选择展现个性。
• 在资源受限的 8 位硬件上运行。

不适合的应用场景

• 生成全新句子的聊天机器人。
• 需要深度追踪多轮对话上下文的任务。
• 理解语法的解析器。
• 任何接近通用人工智能的功能。

它虽然小巧，但却实用。而有时，这正是你需要的。

架构

• 输入：128 个查询三元组桶 + 128 个上下文桶。
• 隐藏层：可配置深度和宽度，例如 256 → 192 → 128。
• 输出：字符集中每个字符对应一个神经元。
• 激活函数：隐藏层之间使用 ReLU。

量化约束

Z80 是一款 8 位 CPU，但我们利用其 16 位寄存器对（HL、DE、BC）来进行激活和累加操作。权重以每字节 4 个（每个 2 位）的形式打包，并在乘累加时解包为 8 位有符号值。

16 位累加器为我们提供了数值稳定性（可以安全地累加 256 个输入而不溢出），但模型的表达能力仍然受限于 2 位权重。若不采用量化感知训练，简单的训练过程可能会导致溢出或出现“奇怪”的行为。

Z80 内层循环

推理的核心是一个高效的乘累加循环。权重以每字节4个的形式打包：

; 从打包的字节中解包2位权重
ld a, (PACKED)      ; 获取打包的权重
and 03h             ; 屏蔽低2位
sub 2               ; 将0、1、2、3映射为-2、-1、0、+1
ld (WEIGHT), a

; 循环左移以获取下一个权重
ld a, (PACKED)
rrca
rrca
ld (PACKED), a

乘累加部分处理4种可能的权重值：

MULADD:
    or a
    jr z, DONE       ; 权重=0：完全跳过
    jp m, NEG        ; 权重<0：减去
    ; 权重=+1：加上激活值
    ld hl, (ACC)
    add hl, de
    ld (ACC), hl
    ret
NEG:
    cp 0FFh
    jr z, NEG1       ; 权重=-1
    ; 权重=-2：减去两次
    ld hl, (ACC)
    sbc hl, de
    sbc hl, de
    ld (ACC), hl
    ret
NEG1:
    ; 权重=-1：减去一次
    ld hl, (ACC)
    sbc hl, de
    ld (ACC), hl
    ret

每层计算完成后，进行算术右移2位，以防止溢出：

sra h        ; 算术右移（保留符号位）
rr l
sra h
rr l         ; ACC = ACC / 4

整个神经网络就由这些步骤组成：解包权重、乘累加、移位。对于每个生成的字符，这一过程会重复约10万次。

---

许可证：可根据需要选择 MIT 或 Apache-2.0 许可证。

Z80-μLM 快速上手指南

Z80-μLM 是一个专为复古计算设计的微型语言模型，可在仅有 64KB 内存的 Z80 处理器（如 1976 年的 4MHz CPU）上运行。它通过量化感知训练（QAT）实现极简的对话交互，生成的二进制文件仅约 40KB。

环境准备

系统要求

• 操作系统：Linux、Windows 或 macOS
• 硬件：任意现代计算机（用于运行模拟器）
• 磁盘空间：仅需几 MB 用于存放模拟器和二进制文件

前置依赖

你需要安装一个 Z80 架构的模拟器。根据你想运行的平台（CP/M 或 ZX Spectrum），选择以下任一方案：

平台	Linux	Windows	macOS
CP/M (推荐)	iz-cpm	iz-cpm	iz-cpm
ZX Spectrum	apt install fuse-emulator-gtk	Fuse Emulator	brew install fuse-emulator

提示：对于国内用户，若 GitHub 下载缓慢，可尝试使用镜像加速工具或搜索国内开源镜像站提供的 iz-cpm/Fuse 安装包。

安装步骤

本项目无需编译即可快速体验，请直接下载预构建的二进制文件。

1. 下载程序文件 访问 GitHub Releases 页面，下载最新的发布包。

   • 若使用 CP/M 模拟器，请确保包中包含 CHAT.COM (或 TINYCHAT.COM, GUESS.COM)。
   • 若使用 ZX Spectrum 模拟器，请确保包中包含 CHAT.TAP。

2. 安装模拟器

   • Linux (CP/M): 下载 iz-cpm 二进制文件并赋予执行权限：

     chmod +x iz-cpm
     

   • macOS (ZX Spectrum):

     brew install fuse-emulator
     

   • Windows: 下载并解压 iz-cpm 或安装 Fuse 模拟器。

3. 目录结构示例 建议将下载的文件整理如下：

   project-folder/
   ├── iz-cpm          (或 iz-cpm.exe)
   └── CHAT.COM        (从 Release 下载的程序)
   

基本使用

模式一：CP/M 环境（推荐，最简洁）

这是最直接的运行方式，适用于 iz-cpm 模拟器。

1. 在终端中进入包含 iz-cpm 和 CHAT.COM 的目录。

2. 运行以下命令启动聊天机器人：

   ./iz-cpm CHAT.COM
   

   (Windows 用户使用 iz-cpm.exe CHAT.COM)

3. 交互示例： 启动后，你将看到绿色的复古终端界面。输入简短的英文句子并回车：

   > hello
   HI
   > are you a robot
   YES
   > do you dream
   MAYBE
   

模式二：ZX Spectrum 环境

如果你更喜欢 ZX Spectrum 的经典磁带加载体验：

1. 运行模拟器并加载磁带文件：

   fuse --tape CHAT.TAP
   

2. 在模拟器界面中，依次执行以下操作（通常在模拟器启动后的黑色屏幕）：
   • 输入命令加载代码：LOAD "" CODE
   • 等待加载完成后，运行程序：RANDOMIZE USR 32768

其他内置示例

发布包中通常还包含其他预设模型：

• 猜谜游戏：运行 GUESS.COM 体验"20 个问题”游戏，模型心中有一个秘密主题，你需用 Yes/No 提问来猜测。
• 微型聊天：运行 TINYCHAT.COM 体验更简练的问答风格。

注意：该模型基于三元组哈希编码（Trigram hash encoding），对拼写错误不敏感且忽略词序，但仅适合短句交互。它不会通过图灵测试，但能在复古硬件上提供独特的个性互动体验。