由GPT生成的知识图谱

高层次描述

该程序旨在为语言模型创建一个外部记忆模块，最终赋予语言模型类似智能体的能力（长期目标）。

• 理想情况下，整个系统将通过文本界面收集信息，对其进行分类和结构化，并识别知识中的空白或不一致之处。
• 语言模型可以被展示这些信息的子集（根据知识图谱的结构选择），然后决定向环境提出进一步的问题以澄清疑点，从而逐步积累知识。

目标

本项目旨在解决语言模型的几个主要缺陷：

• 记忆
  • 外部记忆解决了语言模型难以从一两个例子中进行长期学习的问题。
• 逻辑
  • 语言模型通常无法强制生成结构化的回答，但从记忆中调用逻辑论证可能会有所帮助。
• 可解释性
  • 通过观察哪些记忆被访问，我们可以理解生成结果的来源以及信息流动的过程。
  • 或者，通过观察语言模型如何处理和分类信息，我们可以了解原始语言模型所学习到的信息的内在结构。
• 发展自主性
  • 语言模型缺乏连贯的自主性，因为它们会生成对话的双方内容。
  • 将语言模型构建为强化学习系统中的一个组件，以分类和挖掘信息为目标，可以恢复其自主性。
• 训练时的计算资源消耗
  • 我们能否在不重新训练模型参数的情况下，持续改进整个机器学习系统（模型和强化学习封装层）？只需递归地改进记忆库（通过提示重新插入）即可。
  • 语言模型可以在最终形成的全局系统中接受针对特定子任务的训练。
• 自举能力
  • 是否只需要最低限度的推理和类比能力，就能通过将复杂概念分解为最小单元并分别处理，来应对任意复杂的知识处理任务？
  • 在这里可能存在通过自动生成示例来实现语言模型的自举和策略改进的机会（如下面用于提取问题嵌入以及从问题簇示例中生成新问题的方法）。

长期目标用途

1. 数据库生成与解析 + 问答系统

   • 总结某一研究领域、课堂笔记或教科书内容
   • 识别相互冲突的信息和争议，或对同一主题或观点的不同解释

2. 教育工具或个人学习工具

   • 构建一个作为间隔重复闪卡助手的智能体。
     • 了解用户已掌握的知识及其遗忘速度，然后定期提醒复习。
     • 学习根据用户的当前知识水平和兴趣推荐新的学习内容。
     • 所有操作均通过灵活自然的语言界面进行提问和回应解读。
   • 结构化的教育工具
     • 将专家提炼出的知识固化在图谱中，然后利用知识结构和间隔重复框架来理解学生的学习需求，并与其互动。

3. 科学研究中的假设生成

   • 处理整个科学领域的资料，包括论文、教科书、音频讲座等。
   • 提出新颖的研究思路和提案

程序概要

该程序被设计为Python中语言模型的一个封装器。知识图谱（存储在Python中）会在必要时定期调用语言模型。

其关键特性是知识图谱的结构完全可被人理解。即使是信息的嵌入以及事实本身，也都以自然语言形式呈现。此外，算法的所有步骤都可供用户观察（引用了哪些信息以及原因）。

步骤：

1. 提取
   • 向语言模型展示“闪卡”示例（某一知识领域的极简问答对），并提取该事实所关联的自然语言概念层级的嵌入表示（例如：科学、生物学、细胞、DNA等）。
2. 嵌入
   • 知识图谱程序会查看所有已知信息的嵌入集合，为每张闪卡构建一个人类可理解的向量嵌入。
     • 这些向量嵌入以自然语言形式存在
       • 嵌入向量的“维度”是图谱中词汇或概念的名称 （例如，有一个“科学”的维度，还有一个“DNA”的维度）
     • 对于相似的概念和事实，嵌入向量的重叠度较高，从而实现知识的聚类。
     • 嵌入是根据已学习知识的局部结构定制的 （它们依赖于所有已学过的事实，而不是“互联网”或其他数据库）。
3. 聚类与结构化
   • 利用嵌入向量，可以将事实和概念按层级进行聚类，形成自然的知识结构，便于搜索和探索。
4. 问答
   • 给定来自环境的新问题（即对数据库的查询），模型可以提取一个定制的自然语言嵌入（概念层级）。
     • 在这里可以利用少样本学习来提取这些概念，只需展示之前的问题示例及提取出的相应概念，再输入新问题并要求按照相同风格提取相关概念。
     • 这为递归式的自我改进提供了机会。
   • 这个问题嵌入可用于在图谱中定位相关知识。
   • 语言模型可以综合所有相关已学知识和当前问题，从而回答当前问题。
5. 假设生成
   • 一旦图谱中的知识被结构化（聚类后），语言模型就可以以现有问题簇为灵感（少量示例），生成更多问题簇。
   • 通过向模型展示几组各包含5个相关科学问题的集合，再输入4个新的（但相关的）问题，我们便能以科学研究者的风格生成全新的概念性问题。

要进一步使程序具备智能体特性，还需要在未来的工作中实现分层决策以及确定进一步探索的方向。具体建议见下文。

程序细节：构建知识图谱

初始概念提取与嵌入

1. 从问答对中提取概念：
   • 请参阅文件，了解用于提取简短概念的明确链式提示。
   • 基本思路是先提取一些信息，然后将这些提取的信息作为上下文重新输入语言模型，从而逐步细化概念层次结构。
2. 概念嵌入（原始嵌入与详细嵌入）
   • 步骤1：首先提取原始的卡片-概念连接关系，即两个概念共同出现的频率占它们总出现次数的比例。
     • 从一个概念到另一个概念的连接强度，就是这两个概念同时出现的频率（具体来说，是第一个概念出现时第二个概念也出现的频率）。
   • 步骤2：接下来提取原始概念嵌入，通过统计显著性来衡量两个概念之间的连接强度。
     • 这一步的实现方式较为复杂，可能并非必要。初次阅读时可以跳过。
       • 对于每个概念，将其所有邻近概念按照其相对抽象程度（在卡片概念层次结构中衡量）进行排序。
       • 然后在每个抽象层级上，计算该抽象窗口内的平均连接强度。
       • 这个平均连接强度定义了一个关于任意两个概念预期观察到的连接强度的贝塔分布，从而帮助我们识别异常值。
       • 最后，找出连接强度上的统计学异常值（即那些共同出现频率高于预期、且超过特定阈值的概念）。
       • 类似于一种准“置信上限”的概率被用来计算嵌入中的连接强度。
         • 这意味着，即使我对平均连接强度的预期严重偏离实际（例如，在最坏情况下，误差高达5%），我的平均连接强度可能究竟是多少？
         • 进一步地，在这种最坏情况下，有多少比例的预期连接强度会低于我实际观测到的连接强度？
         • 因此，如果某个观测到的连接强度超过了90%的最坏情况下的预期连接强度，则可以认为它是显著的。
       • 最终的嵌入连接强度，就是观测到的连接强度下方的置信上限贝塔分布所对应的统计权重。
   • 步骤3：基于步骤2中的原始概念嵌入，我们汇总得到最终的概念嵌入（长距离嵌入）。
     • 这一步同样有些复杂，但可能更为必要。 它使我们能够获得高质量的嵌入相似性度量指标（这只是我个人临时拼凑出来以满足所需性质的方法）。
       • 简而言之，每个最终概念嵌入的设计都确保其与相邻概念的原始嵌入之间具有自洽的重叠，并在某种程度上代表原始嵌入图的局部结构。
       • 最终概念嵌入具备以下特性：
         • 在每个邻近概念处，最终嵌入的大小等于该邻近概念原始嵌入向整个最终嵌入向量的投影分数。
         • 从几何意义上讲，这意味着最终嵌入向量大致指向其邻近原始嵌入向量的“平均”方向，且权重由它们原有的相关性决定。
       • 实际上，这样做显著扩展了每个概念嵌入的概念覆盖范围，因为它现在包含了真正意义上的“二阶”概念连接。
       • 说实话，我尚未完全弄清楚这一过程为何有效，但它确实奏效。
3. 基于概念的卡片嵌入
   • 卡片嵌入非常简单，它就是卡片中所识别出的概念嵌入向量的加权和。
   • 其中有一个额外的复杂点：我们会惩罚“常见”概念的存在，因为它们对于识别知识结构并无帮助（知道大多数概念都与“科学”相关，并不能提供太多有用的信息）。
     • 为此，我们将概念向量相加，但会根据它们在图中的普遍程度对其进行反向加权。
     • 最后，在完成概念向量的求和之后，还会再次将各个分量除以其在图中的普遍程度，以进一步强调独特概念在最终向量中的贡献。

构建知识图谱

每个概念或卡片的自然语言嵌入使得我们能够通过多种方法对概念进行聚类。

1. 定义相似度度量

以下是知识图谱中所有卡片之间相似度的一个示例矩阵。 以下是一个交互式的聚类可视化。

2. 相似度计算示例

   • 
   • 

3. 基于相似度度量对想法（问答对）进行聚类。

   • 以下是卡片聚类结果的一些示例。
     • 这些示例以“家族树”的形式呈现：原始卡片首先被分组为小集群，然后逐步合并成更大的集群，依此类推。原始卡片被视为子代，第一层集群是父代，第二层集群则称为祖辈，等等。
   • 这个聚类算法是我临时拼凑出来的，并不十分完善（但效果尚可）。
     • 具体细节请参阅代码，这里简要说明其大致思路如下：
       • 步骤1：围绕每张卡片寻找近似的集群
         • 对于每张卡片，按照相似度顺序找到附近的卡片。
         • 提议将前k张卡片作为一组。
         • 计算近似的“集群质量”。
           • 该指标在以下情况下较高：所有卡片与目标卡片的相似度都较高，且卡片数量较多。然而，如果任何一张卡片与其他卡片的相似度非常低，则会降低集群质量（特别是根据卡片间最小相似度来惩罚集群）。
           • 存在一个控制参数用于设定目标集群大小，从而在自我相似性和避免差异性之间取得平衡。
         • 随着拟议集群规模的扩大，可能会包含更多相似的卡片，从而使集群质量更好。但是，一旦有某张卡片与其他卡片的相似度较低，集群质量就会迅速下降。
         • 找到最优的集群质量后，最终得到一组彼此相似、且相互之间没有显著差异的卡片组成的集群。
         • 最后，我们会通过增减个别卡片来进一步优化集群质量，直到达到稳定状态为止。
         • 最终返回围绕给定卡片的目标集群。
       • 步骤2：调整目标集群大小，寻找全局自我相似性最高的集群（一种新的度量标准）。
         • 在这一步中，我们为集群质量定义了一个元指标（仍然依赖于集群的自我相似性程度，但使用步骤1中的集群质量指标来确定候选集群）。
         • 我们对目标卡片及其所有已识别的集群伙伴重复执行步骤1的操作，这样不仅检查了我们所识别的集群，还递归地检查了这些卡片自身所识别的集群。
         • 如果所有候选集群伙伴都认同与目标卡片相同的集群，那么这个集群就是高度独立的。
         • 反之，如果候选集群伙伴识别出的集群规模远大于或远小于目标卡片的集群，则表明该集群不够独立。
         • 最终的元指标会随着集群规模的增大而提高，但当递归识别出的集群与目标集群差异较大时，该指标会降低。
       • 步骤3：为每张卡片找到最优集群，并重复此过程以形成集群层次结构。
         • 在每一层聚类中，我们将上一层的集群视为一个“大卡片”（即集群中所有卡片概念的组合），并将其所有概念嵌入进行合并，从而得到代表整个集群的嵌入向量。
         • 接着我们可以对这些集群嵌入再次进行聚类，以此类推。
     • 重点在于，某种形式的聚类是完全可以实现的。
       • 或许我的方法并不高效或质量最佳，但它作为一个概念验证已经足够完成任务。

查询知识图谱

为了回答关于知识图谱中事实的问题，我们需要先确定问题中的各个组成概念，然后收集与该问题相似的卡片，在回答时重新输入到语言模型中。

• 注意：我们不会使用与最初闪卡概念提取相同的提示。
  • 相反，我们会利用模型已经完成的工作（即从问题中提取概念的示例），作为快速提取同风格概念的参考。

1. 构建问题嵌入

   • 这种少量样本提示训练模型以正确的细节层次提取概念（从最抽象到最具体的概念），并采用正确的格式（首字母大写，通常保持一到两个词）。
   • 两阶段的重新提示还能让模型看到从相似卡片中提取的概念，从而进一步提升问题嵌入的质量。

2. 收集相似卡片

   1. 在最简单的情况下，只需选取按相似度排序后的前k张卡片即可（例如前10张左右）。

3. 通过向语言模型重新提供相关信息来回答问题

4. 需要注意的是，在最终的回答过程中，我们可以选择是否允许语言模型使用外部知识，或者仅限于重新提示中提供的卡片内的信息。

问题生成

目前这一功能尚未完全实现，但已有一个基本的演示。未来理想情况下，它将包括为科学研究生成假设。

我们基本上利用已测量的知识结构，收集关于相似主题的现有问题簇，并将其用作少样本示例，以生成更多类似风格的问题。

此外，我们还可以通过调整提示来展示（并请求）抽象程度逐渐提高或降低的问题。这是可行的，因为闪卡中的组件概念原本就是按照抽象程度顺序提取的，因此我们可以衡量这一点，并将其融入图结构中。

从长远来看，这一过程有望成为一种递归式自我改进的方法。如果我们能够让模型提出并生成高质量的问题，并且能够在知识图谱中识别出最佳的科学问题簇作为生成示例，那么整个系统应该能够实现递归式的自我改进（类似于AlphaGo Zero）。

用户界面

2023年3月：我添加了一个用户界面，可以启动该界面来交互式地探索问题、生成答案，然后将答案保存到知识图谱中。

目的：使用界面探索相关主题和引人入胜的问题。

一般工作流程：

• 首先选择主题和目标指令，然后使用“生成新问题”按钮生成用户想要探索的若干新问题。
• 其次查看生成的问题，并选择保留或删除哪些问题。
• 第三步，在图谱中收集相关问题，以便大语言模型知道你已经学过的内容。
• 再次生成更多问题，并重复筛选过程，直到你有一组希望得到解答的问题。
• 最后，回答新问题，编辑答案，然后保存到知识图谱和长期存储中。

示例截图：

初始生成问题，并在图谱中查找相关信息：

选择保留或删除哪些问题，并反复重新生成新问题：

最后使用ChatGPT“回答新问题”，然后编辑并点击“保存并重置”，将这些信息加载到知识图谱中，并保存到长期数据中：

未来扩展

类代理行为与探索

这里最终的目标是打造一个能够自我改进的智能体，它可以通过强化学习和快速算法来探索并增强其概念环境，同时仅在需要实际构建信息结构时才偶尔调用语言模型。理想情况下，知识图谱可以通过强化学习算法进行解析，以识别知识空白和知识集群，从而确定需要进一步探索和提问的领域。随后，语言模型可以用来生成有意义且概念上不同的问题，这些问题可以被提交给环境（即互联网）以获取更多信息。

这将需要对知识图谱中的信息赋予某种“价值”概念（以平衡纯粹探索与相关概念的探索）。此外，在空闲状态时（如休眠状态），可能还需要设置知识图谱的自我修剪和定期回顾机制。

结构化与层级化的问答

为了提升问答质量，语言模型最好能够选择将一个问题分解为包含子问题的多阶段提问流程。这些问题、子问题及其最终答案都可以作为记忆被添加到知识图谱中。

语言模型的专门化

有可能训练语言模型根据示例来自我改进（例如在提取概念层次结构时）。为此可以设置一个专门的小型网络（类似于AlphaGo Zero中的专用内部策略和价值网络）。

构建个人学习助手

我们能否利用语言模型构建一个智能的间隔重复记忆系统来进行学习？

• 融入间隔重复和记忆概率的概念。
• 生成复杂而有机的问题，以测试卡片簇内的概念。
• 学习一些适合你的参数（你的个人遗忘率、兴趣和基础知识）。
• 提供预设的专家知识结构供学习和教授（例如统计学模块的卡片）。
• 提供一种美观的方式，通过聚类来可视化你的个人知识图谱。

附加功能：

• 可以将知识图谱设置为插件，始终要求你总结过去10分钟内阅读的内容。
• 它还可以与OpenAI Whisper或其他类似工具对接，实现语音转文字并自动摘要。

长期预见的问题

• 使用同义词目录来帮助合并节点（概念）可能会很有帮助。
• 如何处理文本以外的数据类型？如何处理非常短或非常长的文本（闪卡）或概念（如数学或复杂的公式）？

总结、补充参考及思考

互联网上流传着许多相关的概念。在此我简单列举一些（并不全面）。

嵌入向量以及如何引用记忆是常见的概念。以下是我事后了解到的一些例子：

• OpenAI嵌入
• GPT-index: https://github.com/jerryjliu/gpt_index

有许多应用、初创公司和研究项目正在尝试做类似的事情，或者其中的一部分：

• 一些初创公司致力于构建个人知识图谱或笔记辅助工具（我认为它们会使用语言模型）。
• 有一些工具可以将文章和信息总结成离散的事实（未来工作中可用作子组件）。
• 还有一些研究方向通过让事实再次进入语言模型来提升质量。例如非参数化变压器以及各种保存记忆的其他变压器架构。
• 也有人尝试通过分解成分来构建结构化问答系统，比如Factored Cognition Primer - https://primer.ought.org/。

Hinton指出，使用概念层次结构至关重要：https://arxiv.org/abs/2102.12627（“如何在神经网络中表示部分-整体层次结构”）。

独特（ish）的贡献

简单总结一下，在我的实现中，几个较为独特的方面（据我所知，当然也可能是我了解得还不够全面）包括：

• 嵌入结构——质量和可解释性

  • 使用局部知识结构来构建嵌入（而非从互联网上学习得到的嵌入）。这可能会更加准确和富有表现力。
  • 在嵌入中使用自然语言（嵌入维度是“词”，而不是无标签的轴）。

• 通过经验改进策略

  • 基于本地图谱中提取的结构生成问题。
  • 根据过往实例提取问题嵌入。
  • 总体而言，利用语言模型作为子组件，在更大系统中完成基础推理，这一思路可能让我们走得更远（这种理念在当前许多机器人研究中都有体现）。

• 构建智能体兼独立研究助理，或者旨在打造用于学习与记忆的个人助理，这一目标似乎与大多数现有工作存在一定差异。

knowledge-graph-from-GPT 快速上手指南

本工具旨在为语言模型构建外部记忆模块，通过知识图谱结构化管理信息，解决大模型在长期记忆、逻辑推理及可解释性方面的短板。以下是基于 Python 环境的快速部署与使用指南。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Linux, macOS 或 Windows (推荐 WSL2)
• Python 版本：Python 3.8 或更高版本
• 前置依赖：
  • pip (Python 包管理工具)
  • git (代码版本控制)
  • LLM API Key：本项目依赖 GPT 系列模型进行概念提取与推理，需准备 OpenAI API Key 或其他兼容接口密钥。

国内加速建议： 若在国内网络环境下安装依赖较慢，建议使用清华或阿里云镜像源加速 pip 安装：

pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple

安装步骤

1. 克隆项目仓库 将源代码拉取到本地目录：

   git clone https://github.com/your-username/knowledge-graph-from-GPT.git
   cd knowledge-graph-from-GPT
   

2. 创建虚拟环境（推荐） 为避免依赖冲突，建议创建独立的虚拟环境：

   python -m venv venv
   source venv/bin/activate  # Linux/macOS
   # 或
   venv\Scripts\activate     # Windows
   

3. 安装依赖包 安装项目所需的 Python 库：

   pip install -r requirements.txt
   

4. 配置 API 密钥 在项目根目录下创建 .env 文件（或根据项目具体配置脚本），填入您的 LLM API 密钥：

   export OPENAI_API_KEY="sk-your-api-key-here"
   # 或在 .env 文件中写入：OPENAI_API_KEY=sk-your-api-key-here
   

基本使用

本工具的核心流程包括：信息提取 -> 向量化嵌入 -> 聚类结构化 -> 问答/假设生成。以下是最简化的运行示例。

1. 初始化并添加知识卡片

创建一个简单的 Python 脚本（例如 demo.py），用于向知识图谱中添加初始数据（以“闪卡”形式，即问答对）：

from kg_gpt import KnowledgeGraph  # 假设主类导入路径，具体请参考源码结构

# 初始化知识图谱实例
kg = KnowledgeGraph()

# 定义初始知识卡片 (问题，答案)
flashcards = [
    ("What is DNA?", "Deoxyribonucleic acid, the carrier of genetic information."),
    ("Where is DNA located?", "In the nucleus of eukaryotic cells."),
    ("What are the components of DNA?", "Nucleotides consisting of a sugar, phosphate, and base.")
]

# 执行提取与嵌入流程
# 这一步会自动调用 LLM 提取概念层级，计算统计显著性嵌入，并更新图谱结构
for question, answer in flashcards:
    kg.add_fact(question, answer)

print("Knowledge graph updated with initial facts.")

2. 执行聚类与结构化

数据录入后，运行结构化命令以生成人类可读的概念层级和聚类视图：

python scripts/structure_graph.py

注：运行后将生成概念相似度矩阵及聚类可视化文件（参考 docs/ 目录下的示例图片逻辑）。

3. 进行问答查询

利用构建好的图谱回答新问题，系统将自动检索相关概念簇并调用 LLM 生成答案：

# 继续上述 demo.py 脚本

new_query = "How does DNA relate to cell biology?"
response = kg.query(new_query)

print(f"Query: {new_query}")
print(f"Answer: {response}")
print(f"Referenced Concepts: {kg.get_referenced_concepts()}")

4. 生成科学假设（进阶）

基于现有知识簇，让模型生成新的研究问题：

# 基于现有的问题簇生成新的假设性问题
new_hypotheses = kg.generate_hypotheses(num_questions=5)
for h in new_hypotheses:
    print(h)

---

提示：由于该工具严重依赖 LLM 的 Few-shot 学习能力，初次运行时建议在代码中提供少量高质量的领域示例（如生物学、物理学笔记），以便模型更准确地提取概念层级和构建嵌入向量。