在 GitHub 上为我们点赞！加入我们的 Discord 社区。

目录

• 📖 Chidori V2
• ⚡️ 快速开始
  • 安装
  • 环境变量
  • 示例
• 🤔 关于
  • 反应式运行时
  • 监控与可观测性
  • 分支与时间旅行
  • 代码解释器环境
• 🛣️ 路线图
  • 短期目标
  • 中期目标
• 贡献指南
• 灵感来源
• 开源协议
• 帮助我们！

📖 Chidori V2

Chidori 是一个开源的编排器、运行时和集成开发环境（IDE），旨在与现代 AI 工具协同构建软件。它特别针对以下问题提供了解决方案：

• 如何理解代理的行为及其状态演变过程？
• 如何暂停执行并在与人类交互后继续执行？
• 如何处理状态空间探索的复杂性，在软件中评估和回滚执行？

使用 Chidori 时，您可以使用 Python 或 JavaScript 编写代码，我们提供了一层接口来处理 AI 模型在长期运行工作流中的复杂性。我们避免了声明新语言或 SDK 的需求，使您能够利用已熟悉的软件模式。

核心特性：

• Rust 编写的运行时，支持 Python 和 JavaScript 代码执行
• 支持缓存行为并从部分执行的代理中恢复
• 时间旅行调试功能，可将程序执行回滚到先前状态
• 可视化调试环境，可视化并操作代码执行状态图
• 创建和导航树状搜索代码执行工作流

⚡️ 快速开始

安装

Chidori 发布在 crates.io，可通过 cargo 安装。我们推荐使用 chidori-debugger 作为原型开发入口，它将运行时封装在可视化界面中。

# 安装 Rust 工具链和 nightly 通道
curl --proto '=https' --tlsv1.2 -sSf https://sh.rustup.rs | sh
rustup toolchain install nightly

# 构建依赖所需工具
xcode-select --install

# 必要构建依赖
brew install cmake  

# 正在验证是否可移除该依赖
brew install python@3.12

# 使用 uv 管理 Python 依赖 
brew install uv

# 当前依赖 nightly 特性
cargo +nightly install chidori-debugger --locked

如需使用其他 Python 解释器，可在安装时设置 PYO3_PYTHON=python3.12（或 3.7+ 版本）指定链接版本。

运行时环境配置

Chidori 默认通过 http://localhost:4000 与 LiteLLM 代理交互。 如需使用 gpt-3.5-turbo，配置文件已支持该功能。需先安装 pip install litellm[proxy]：

export OPENAI_API_KEY=...
uv pip install "litellm[proxy]"
uv run litellm --config ./litellm_config.yaml

示例

以下示例展示如何构建一个简单代理：获取 Hacker News 热门故事，调用 OpenAI API 过滤 AI 相关项目，并将结果格式化为 Markdown。

---

以下是一个可执行的 Chidori 代理示例：

Chidori 代理可以是单个文件，也可以是典型的 Typescript/Python 项目结构。以下为单文件示例，类似于 jupyter/iPython 笔记本的 Markdown 表示。

```javascript (load_hacker_news)
const axios = require('https://deno.land/x/axiod/mod.ts');

const HN_URL_TOP_STORIES = "https://hacker-news.firebaseio.com/v0/topstories.json";

function fetchStory(id) {
    return axios.get(`https://hacker-news.firebaseio.com/v0/item/${id}.json?print=pretty`)
        .then(response => response.data);
}

async function fetchHN() {
    const stories = await axios.get(HN_URL_TOP_STORIES);
    const storyIds = stories.data;
    // 仅取前30个
    const tasks = storyIds.slice(0, 30).map(id => fetchStory(id));
    return Promise.all(tasks)
      .then(stories => {
        return stories.map(story => {
          const { title, url, score } = story;
          return {title, url, score};
        });
      });
}
```

提示词 "interpret_the_group"
```prompt (interpret_the_group)
  根据以下 HackerNews 主题列表，
  仅保留新 AI 项目的发布信息：{{fetched_articles}}
```

提示词 "format_and_rank"
```prompt (format_and_rank)
将以下新 AI 项目列表用 Markdown 格式呈现，按最有趣到最无趣排序：
{{interpret_the_group}}
```

使用 Python 单元作为入口点，演示跨语言执行：
```python
articles = await fetchHN()
format_and_rank(articles=articles)
```

---

关于

反应式运行时

Chidori 的核心是一个反应式运行时（reactive runtime），协调不同代理及其组件之间的交互。它接受任意 Python 或 JavaScript 代码，接管其执行和调度，支持中断和响应式行为。这使您能在保持熟悉开发模式的同时，获得这些运行时特性带来的优势。

监控与可观察性（Monitoring and Observability）

Chidori 确保对您的智能体（agent）实现全面监控与可观测性。我们会记录执行过程中所有函数产生的输入输出，这种机制能够精确解释系统行为的因果关系，提升调试体验并加深对生产环境行为的理解。

分支与时间旅行（Branching and Time-Travel）

通过 Chidori，您可以对系统状态进行快照，并探索该节点后的不同可能结果（分支），或回溯系统到先前状态（时间旅行）。该功能通过提供替代路径和重试机制，显著增强错误处理、调试能力和系统健壮性。

代码解释器环境（Code Interpreter Environments）

Chidori 原生支持 Python 和 JavaScript 的代码解释功能。您可以在系统内直接执行代码，实现快速启动、便捷使用和安全执行。我们正在持续开发针对不可信代码的防护措施，即将支持容器化环境执行。

评估过程中的代码生成（Code Generation During Evaluation）

依托执行图、状态持久化和调试工具，Chidori 为在智能体评估过程中生成代码提供了理想环境。您可以利用此功能结合大语言模型（LLM）实现更通用的行为模式，并随时间推移动态优化智能体。

🛣️ 路线图

短期

• 节点间响应式订阅（Reactive subscriptions between nodes）
• 分支与时间旅行调试，支持图执行回滚
• 支持 Node.js、Python 和 Rust 构建执行图
• 开发用本地向量数据库
• 添加容器化节点支持

中期

• 执行对比分析工具
• 扩展更多向量数据库支持
• 集成更多 LLM 数据源
• 支持更多代码解释器环境
• 基于反馈的智能体重评估
• 定义人机协同智能体模式

贡献

这是早期开源版本，我们期待社区开发者加入。
建议从加入我们的 discord 开始！

灵感来源

本框架受以下项目启发：

• Temporal.io - 提供工作流可靠性与持久性
• Eve - 开发响应式系统模式并降低意外复杂度
• Timely Dataflow - 高效流式数据变更处理
• Langchain - 构建 LLM 工具与模式开发

许可证

Chidori 遵循 MIT 许可证。详见 LICENSE 文件。

支持我们！

请为 GitHub 仓库加星标，并加入我们的 discord！

Chidori 快速上手指南

环境准备

系统要求

• macOS（需要xcode-select）或Linux
• 至少8GB内存
• Python 3.7+ 环境

前置依赖

# macOS安装xcode命令行工具
xcode-select --install

# 安装Homebrew（若未安装）
/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"

# 国内用户可选：替换brew源（中科大镜像）
cd $(brew --repo)
git remote set-url origin https://mirrors.ustc.edu.cn/brew.git
cd $(brew --repo)/Library/Taps/homebrew/homebrew-core
git remote set-url origin https://mirrors.ustc.edu.cn/homebrew-core.git

安装步骤

# 安装Rust工具链（国内加速版）
curl --proto '=https' --tlsv1.2 -sSf https://sh.rustup.rs | sh -s -- --default-toolchain nightly

# 安装构建依赖
brew install cmake python@3.12 uv

# 安装Chidori调试器（使用国内镜像加速）
cargo +nightly install chidori-debugger --locked --git https://mirrors.ustc.edu.cn/gitee.com/ThousandBirdsInc/chidori.git

基本使用

启动LLM代理服务

# 安装litellm代理（国内镜像加速）
uv pip install "litellm[proxy]" -i https://pypi.tuna.tsinghua.edu.cn/simple

# 创建litellm配置文件（示例）
echo "model: gpt-3.5-turbo" > litellm_config.yaml

# 启动代理服务
export OPENAI_API_KEY=your_api_key_here
uv run litellm --config ./litellm_config.yaml

运行示例Agent

# 创建示例文件 hn_ai_filter.py
articles = await fetchHN()
format_and_rank(articles=articles)

# 通过调试器运行示例
chidori-debugger run hn_ai_filter.py

示例代码说明

该示例包含：

1. JavaScript编写的Hacker News抓取函数
2. 两个Prompt模板（AI项目过滤/Markdown格式化）
3. Python入口点调用流程

完整代码请参考README中的示例部分，可直接复制到.py文件中运行。

注意：首次运行需要配置OPENAI_API_KEY环境变量，并确保代理服务正常运行。