Grace

Grace（“Fall-from-Grace”的缩写，见下文）是一种用于提示模型的领域特定编程语言。特别地，Grace 非常适合构建和自动生成复杂的提示链。

您无需安装任何东西，只需访问 trygrace.dev 即可在浏览器中使用 Grace。该网站包含一个交互式教程，是学习和开始使用 Grace 的推荐方式。

特性

• 针对模型的集成语言支持

  您无需安装任何依赖或导入任何内容即可开始使用。所需的一切都直接内置于语言中。

  该语言提供了一个内置的 prompt 函数来向模型发出提示：

  >>> let key = ./openai.key : Key
  
  >>> prompt{ key, text: "生成一份名字列表" }
  "
  这里有40个风格各异的常见名字（男女兼有，文化背景多样）：
  
  - 艾登
  - 索菲娅
  - 马特奥
  …
  - 梅贝尔
  - 伊玛尼
  - 泽恩
  
  您是否希望按性别、文化、风格（现代/复古）筛选，或者以全名/姓氏的形式呈现这些名字？"
  

  … 并且您可以通过提供类型注解来组织输出：

  >>> prompt{ key, text: "生成一份名字列表" } : List Text
  [ "艾娃·汤普森"
  , "利亚姆·帕特尔"
  , "索菲娅·马丁内斯"
  …
  , "杰克逊·里维拉"
  , "佐伊·威尔逊"
  , "艾登·帕克"
  ]
  

  如果类型足够明确，甚至可以省略提示：

  >>> prompt{ key } : List { name: Text }
  [ { "name": "爱丽丝" }
  , { "name": "鲍勃" }
  , { "name": "查理" }
  , { "name": "黛安娜" }
  , { "name": "伊芙" }
  ]
  

  实际上，如果类型可以从用法中推断出来，连类型也可以省略：

  >>> for { name } of prompt{ key } in "你好，${name}！"
  [ "你好，爱丽丝！"
  , "你好，鲍勃！"
  , "你好，卡罗尔！"
  , "你好，戴夫！"
  , "你好，伊芙！"
  ]
  

• 根据用法推断出的 JSON 模式

  上面最后一个例子即使没有提示、模式或类型也能正常工作，因为 Grace 的类型检查器会根据输出的使用方式反向推理出正确的 JSON 模式，如下所示：

  • 类型检查器推断出变量 name 必须是 Text 类型，

    因为 name 变量被插值到 "你好，${name}！" 中。

  • 类型检查器推断出 prompt 函数必须生成一个 List 类型的值，

    因为程序使用 for … of 循环遍历了输出。

  • 类型检查器推断出 List 中的每个元素都是 { name: Text } 类型，

    因为 for … of 循环通过 { name } 解构了每个元素。

  • 因此，prompt 函数的输出类型是 List{ name: Text }，

    你可以将其理解为“一个记录列表，其中每个记录都有一个名为 name 的字段，字段值为 Text”。

  解释器随后会将这个 Grace 类型转换为以下匹配的 JSON 模式，以约束模型的输出：

  {
    "type": "array",
    "items": {
      "type": "object",
      "properties": {
        "name": {
          "type": "string"
        }
      },
      "required": ["name"],
      "additionalProperties": false
    }
  }
  

  最后，模型仅从这个 JSON 模式中（无需任何额外提示）推断出它应该生成一个包含名字的 JSON 编码列表。

• 代码生成

  您可以在 prompt 关键字前加上 import，要求模型生成任意类型的 Grace 表达式。例如：

  >>> import prompt{ key, text: "increment" }
  \n -> n + 1
  

  您还可以使用显式的类型注解来指导生成的代码：

  >>> import prompt{ key, text: "increment" } : { input: Natural } -> { output: Natural }
  \{ input } -> { "output": input + 1 }
  

  … 如果类型足够清晰，甚至可以省略提示：

  >>> import prompt{ key } : { "职位描述": Text } -> { "是否属于金融行业？": Bool }
  let key = 🔒
  
  in  \{ "职位描述" } ->
        prompt
          { "key":
              key
          , "text":
              "
              判断以下职位描述是否属于金融行业。请返回一个只包含布尔型字段 '是否属于金融行业？' 的 JSON 对象：如果是金融行业，则为 true；否则为 false。请仅回答有效的 JSON，不要添加其他内容。
  
              职位描述：
              ${.'Job Description'}
              "
          , "model":
              null
          , "search":
              null
          , "effort":
              null
          }
          : { "是否属于金融行业？": Bool }
  

  在最后一个例子中，您会注意到模型能够生成一段自身还会再次调用 prompt 的代码。真巧妙！

  推断出的类型同样也会指导代码生成过程！

  >>> let upper = import prompt{ key, text: "uppercase" } in "你好，${upper "gabby"}！"
  "你好，GABBY！"
  

  在这里，模型推断出 upper 函数的类型应该是 Text -> Text（即输入为 Text、输出也为 Text 的函数），并生成了一个符合该类型、能够将文本转为大写的函数。

命令行工具

这个 Haskell 包构建了一个名为 grace 的可执行文件，其命令行 API 如下：

$ grace --help
用法：grace COMMAND
  Grace 语言的命令行工具

可用选项：
  -h,--help                显示此帮助文本

可用命令：
  interpret                解释一个 Grace 文件
  text                     渲染一个 Grace 文本字面量
  format                   格式化 Grace 代码
  builtins                 列出所有内置函数及其类型
  repl                     进入 Grace 的 REPL 环境

您可以使用 interpret 子命令来解释单个文件：

# ./greet.ffg

for { name } of prompt{ key: ./openai-key.txt }

in  "你好，${name}！"

$ grace interpret ./greet.ffg

[ "你好，Alice！", "你好，Bob！", "你好，Charlie！" ]

… 您也可以指定 - 来处理标准输入而不是文件，例如：

$ grace interpret - <<< '2 + 2'

4

此外，您还可以使用 repl 子命令进行交互式使用：

$ grace repl

>>> let key = ./openai-key.txt
>>> prompt{ key } : List { "First Name": Text, "Last Name": Text }
[ { "First Name": "John", "Last Name": "Doe" }
, { "First Name": "Jane", "Last Name": "Smith" }
, { "First Name": "Alice", "Last Name": "Johnson" }
, { "First Name": "Michael", "Last Name": "Brown" }
, { "First Name": "Emily", "Last Name": "Davis" }
]

名称

和我所有的编程语言项目一样，Grace 的名字来源于《无主之地：折磨》中的一个角色，具体来说就是 堕落者。

由于这个编程语言的名称与另一个编程语言 grace 重名，在上下文不够明确的情况下，请使用全称“Fall-from-Grace”以避免混淆。

Grace 快速上手指南

Grace（全称 Fall-from-Grace）是一门专为提示工程（Prompt Engineering）设计的领域特定语言（DSL）。它内置了对大模型的原生支持，能够自动推断类型和 JSON Schema，非常适合构建复杂的提示链和自动生成代码。

环境准备

• 操作系统：支持 Linux、macOS 及 Windows（通过 WSL）。
• 前置依赖：
  • 无需安装额外的编程语言运行时或依赖库（Grace 是自包含的可执行文件）。
  • 需要准备一个大模型 API 密钥（如 OpenAI Key），保存为文本文件（例如 openai.key）。
• 在线体验（推荐）： 如果你不想在本地安装，可以直接访问 trygrace.dev 使用浏览器内的交互式教程和 REPL 环境，这是最快捷的上手方式。

安装步骤

目前主要通过 Haskell 生态或直接下载预编译二进制文件进行安装。

方式一：使用 Garnix/Cachix (推荐，适用于 Nix 用户)

如果你使用 Nix 包管理器，可以通过 Garnix 缓存快速安装：

nix-env -iA grace -f https://github.com/Gabriella439/grace/archive/main.tar.gz

方式二：从源码构建 (需要 Haskell 环境)

如果你已安装 cabal 或 stack：

git clone https://github.com/Gabriella439/grace.git
cd grace
cabal install

验证安装

安装完成后，运行以下命令查看帮助信息以确认安装成功：

grace --help

基本使用

Grace 的核心在于使用 prompt 函数调用模型，并利用类型系统自动约束输出格式。

1. 启动交互式 REPL

运行以下命令进入交互模式：

grace repl

2. 基础提示与类型推断

在 REPL 中，你可以直接加载密钥并调用模型。Grace 会根据你提供的类型注解自动构建 JSON Schema 并约束模型输出。

示例：生成指定类型的列表

>>> let key = ./openai.key : Key

>>> prompt{ key, text: "Generate a list of names" } : List Text
[ "Ava Thompson"
, "Liam Patel"
, "Sophia Martinez"
]

示例：省略提示词，仅靠类型推断 如果类型定义足够清晰，甚至可以省略具体的提示文本，模型会根据类型自行生成内容：

>>> prompt{ key } : List { name: Text }
[ { "name": "Alice" }
, { "name": "Bob" }
, { "name": "Charlie" }
]

示例：在使用场景中自动推断 你还可以完全不写类型注解，让编译器根据代码的使用方式反向推断：

>>> for { name } of prompt{ key } in "Hello, ${name}!"
[ "Hello, Alice!"
, "Hello, Bob!"
, "Hello, Carol!"
]

原理：编译器发现 name 被用于字符串插值推断为 Text，发现使用了 for 循环推断为 List，从而自动生成对应的 Schema。

3. 代码生成

使用 import prompt 可以让模型直接生成 Grace 代码片段。

示例：生成一个简单的函数

>>> import prompt{ key, text: "increment" }
\n -> n + 1

示例：结合类型注解生成复杂逻辑

>>> import prompt{ key } : { "Job Description": Text } -> { "Is Finance?": Bool }
\{ "Job Description" } ->
  prompt
    { "key": key
    , "text": "Determine whether the following job description is for a finance role..."
    }
    : { "Is Finance?": Bool }

4. 运行脚本文件

你可以将逻辑写入 .ffg 文件并通过命令行执行。

创建文件 greet.ffg：

for { name } of prompt{ key: ./openai-key.txt }

in  "Hello, ${name}!"

执行脚本：

grace interpret ./greet.ffg

输出结果：

[ "Hello, Alice!", "Hello, Bob!", "Hello, Charlie!" ]