Eino

英语 | 中文

概述

Eino['aino] 是一个用 Golang 编写的 LLM 应用开发框架。它借鉴了 LangChain、Google ADK 等开源框架，并遵循 Golang 的编码规范设计。

Eino 提供：

• 组件：可复用的构建模块，如 ChatModel、Tool、Retriever 和 ChatTemplate 等，官方实现了 OpenAI、Ollama 等多种模型。
• Agent 开发套件 (ADK)：用于构建具备工具使用、多智能体协作、上下文管理、人机交互中断与恢复等功能的 AI 代理，并提供开箱即用的代理模式。
• 组合能力：将组件连接成图和工作流，既可独立运行，也可作为工具供代理调用。
• 示例：常见模式和实际应用场景的可运行代码。

快速入门

ChatModelAgent

配置一个 ChatModel，可选地添加工具，即可得到一个可用的代理：

chatModel, _ := openai.NewChatModel(ctx, &openai.ChatModelConfig{
    Model:  "gpt-4o",
    APIKey: os.Getenv("OPENAI_API_KEY"),
})

agent, _ := adk.NewChatModelAgent(ctx, &adk.ChatModelAgentConfig{
    Model: chatModel,
})

runner := adk.NewRunner(ctx, adk.RunnerConfig{Agent: agent})
iter := runner.Query(ctx, "你好，你是谁？")
for {
    event, ok := iter.Next()
    if !ok {
        break
    }
    fmt.Println(event.Message.Content)
}

添加工具以赋予代理更多能力：

agent, _ := adk.NewChatModelAgent(ctx, &adk.ChatModelAgentConfig{
    Model: chatModel,
    ToolsConfig: adk.ToolsConfig{
        ToolsNodeConfig: compose.ToolsNodeConfig{
            Tools: []tool.BaseTool{weatherTool, calculatorTool},
        },
    },
})

代理会内部处理 ReAct 循环——决定何时调用工具、何时响应。

→ ChatModelAgent 示例 · 文档

DeepAgent

对于复杂任务，可以使用 DeepAgent。它会将问题分解为多个步骤，委派给子代理，并跟踪进度：

deepAgent, _ := deep.New(ctx, &deep.Config{
    ChatModel: chatModel,
    SubAgents: []adk.Agent{researchAgent, codeAgent},
    ToolsConfig: adk.ToolsConfig{
        ToolsNodeConfig: compose.ToolsNodeConfig{
            Tools: []tool.BaseTool{shellTool, pythonTool, webSearchTool},
        },
    },
})

runner := adk.NewRunner(ctx, adk.RunnerConfig{Agent: deepAgent})
iter := runner.Query(ctx, "分析 report.csv 中的销售数据并生成汇总图表")

DeepAgent 可以配置为协调多个专业代理、执行 Shell 命令、运行 Python 代码以及进行网络搜索。

→ DeepAgent 示例 · 文档

组合

当需要精确控制执行流程时，可以使用 compose 构建图和工作流：

graph := compose.NewGraph[*Input, *Output]()
graph.AddLambdaNode("validate", validateFn)
graph.AddChatModelNode("generate", chatModel)
graph.AddLambdaNode("format", formatFn)

graph.AddEdge(compose.START, "validate")
graph.AddEdge("validate", "generate")
graph.AddEdge("generate", "format")
graph.AddEdge("format", compose.END)

runnable, _ := graph.Compile(ctx)
result, _ := runnable.Invoke(ctx, input)

组合可以作为工具暴露给代理，从而将确定性的工作流与自主行为相结合：

tool, _ := graphtool.NewInvokableGraphTool(graph, "data_pipeline", "处理并验证数据")

agent, _ := adk.NewChatModelAgent(ctx, &adk.ChatModelAgentConfig{
    Model: chatModel,
    ToolsConfig: adk.ToolsConfig{
        ToolsNodeConfig: compose.ToolsNodeConfig{
            Tools: []tool.BaseTool{tool},
        },
    },
})

这样就可以构建具有精确控制的领域专用管道，然后让代理自行决定何时使用它们。

→ GraphTool 示例 · compose 文档

核心特性

组件生态

Eino 定义了组件抽象（ChatModel、Tool、Retriever、Embedding 等），并提供了针对 OpenAI、Claude、Gemini、Ark、Ollama、Elasticsearch 等的官方实现。

→ eino-ext

流式处理

Eino 在整个编排过程中自动处理流式数据：在节点间传递数据时，会进行流的拼接、封装、合并和复制等操作。组件只需实现与其自身相关的流式处理逻辑，其余部分由框架自动完成。

→ 文档

回调机制

可在固定点位（OnStart、OnEnd、OnError、OnStartWithStreamInput、OnEndWithStreamOutput）为组件、图和代理注入日志记录、链路追踪和指标监控功能。

→ 文档

中断与恢复

任何代理或工具都可以暂停执行，等待人工输入后从检查点继续运行。框架会负责状态的持久化和路由。

→ 文档 · 示例

框架结构

Eino 框架由以下部分组成：

• Eino（本仓库）：类型定义、流式处理机制、组件抽象、编排、代理实现、切面机制
• EinoExt：组件实现、回调处理器、使用示例、评估器、提示词优化器
• Eino Devops：可视化开发与调试工具
• EinoExamples：示例应用及最佳实践

文档

• Eino 用户手册
• Eino：快速入门

依赖

• Go 1.18 及以上版本。

代码风格

本仓库使用 golangci-lint 进行代码检查。您可以在本地运行以下命令进行检查：

golangci-lint run ./...

强制执行的规则包括：

• 导出的函数、接口、包等应包含 GoDoc 注释。
• 代码应使用 gofmt -s 格式化。
• 导入顺序应遵循 goimports 规则（标准库 -> 第三方库 -> 本地包）。

安全

如果您在本项目中发现潜在的安全问题，或认为可能发现了安全漏洞，请通过字节跳动安全中心 (security.bytedance.com/src) 或漏洞上报邮箱 (mailto:sec@bytedance.com?subject=Feedback%20On%20Eino) 向字节跳动安全团队报告。

请勿创建公开的 GitHub 问题。

联系方式

• 成员加入：社区成员加入
• 问题反馈：Issues
• Lark：使用 飞书 扫描下方二维码，加入 CloudWeGo/Eino 用户群。

   

许可证

本项目采用 Apache-2.0 许可证。

Eino 快速上手指南

Eino 是一个基于 Go 语言的大语言模型（LLM）应用开发框架。它借鉴了 LangChain 和 Google ADK 等框架的设计理念，并严格遵循 Go 语言的工程规范，提供组件化、流式处理和智能体编排等核心能力。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Linux, macOS 或 Windows
• Go 版本：Go 1.18 或更高版本
• 依赖管理：确保已安装 go 命令并配置好 GOPATH 和 GO111MODULE

安装步骤

使用 Go Module 初始化项目并安装 Eino 核心库：

go mod init my-eino-app
go get github.com/cloudwego/eino@latest

如果您需要使用官方提供的模型适配器（如 OpenAI、Ollama 等），还需安装扩展库 eino-ext：

go get github.com/cloudwego/eino-ext/components/model/openai@latest

提示：国内开发者若遇到下载缓慢问题，可配置国内代理： export GOPROXY=https://goproxy.cn,direct

基本使用

以下示例展示如何快速构建一个具备对话能力的 AI 智能体（Agent）。

1. 基础对话智能体

配置 ChatModel 并创建 Agent，即可处理用户查询：

package main

import (
	"context"
	"fmt"
	"os"

	"github.com/cloudwego/eino/adk"
	"github.com/cloudwego/eino-ext/components/model/openai"
)

func main() {
	ctx := context.Background()

	// 1. 初始化 ChatModel (以 OpenAI 为例)
	chatModel, err := openai.NewChatModel(ctx, &openai.ChatModelConfig{
		Model:  "gpt-4o",
		APIKey: os.Getenv("OPENAI_API_KEY"),
	})
	if err != nil {
		panic(err)
	}

	// 2. 创建 ChatModelAgent
	agent, err := adk.NewChatModelAgent(ctx, &adk.ChatModelAgentConfig{
		Model: chatModel,
	})
	if err != nil {
		panic(err)
	}

	// 3. 运行 Runner 并处理流式响应
	runner := adk.NewRunner(ctx, adk.RunnerConfig{Agent: agent})
	iter := runner.Query(ctx, "Hello, who are you?")
	
	for {
		event, ok := iter.Next()
		if !ok {
			break
		}
		fmt.Println(event.Message.Content)
	}
}

2. 赋予工具能力 (Tool Use)

通过添加工具，让智能体能够执行具体任务（如查询天气、计算等）。Eino 内部会自动处理 ReAct 循环：

// 假设已定义 weatherTool 和 calculatorTool
agent, err := adk.NewChatModelAgent(ctx, &adk.ChatModelAgentConfig{
	Model: chatModel,
	ToolsConfig: adk.ToolsConfig{
		ToolsNodeConfig: compose.ToolsNodeConfig{
			Tools: []tool.BaseTool{weatherTool, calculatorTool},
		},
	},
})

3. 工作流编排 (Composition)

对于需要精确控制执行流程的场景，可以使用 compose 构建图结构工作流：

graph := compose.NewGraph[*Input, *Output]()
graph.AddLambdaNode("validate", validateFn)
graph.AddChatModelNode("generate", chatModel)
graph.AddLambdaNode("format", formatFn)

// 定义执行顺序
graph.AddEdge(compose.START, "validate")
graph.AddEdge("validate", "generate")
graph.AddEdge("generate", "format")
graph.AddEdge("format", compose.END)

// 编译并运行
runnable, err := graph.Compile(ctx)
if err != nil {
	panic(err)
}
result, err := runnable.Invoke(ctx, input)

更多复杂场景（如多智能体协作 DeepAgent、人机交互中断/恢复等）请参考 官方示例仓库。