Council：具有控制流和可扩展监管功能的AI智能体平台

欢迎

Council 是一个用 Python 构建的开源平台，用于开发基于大型语言模型（LLMs）的应用程序。

Council 提供了一个统一的接口，可以与 OpenAI、Anthropic、Google 和 Ollama 等不同的 LLM 服务提供商进行交互。该框架使得在不同提供商之间切换变得简单，同时保持一致的接口和监控能力。

Council 的目标是为 LLM 应用提供企业级的质量控制和监控功能（欢迎贡献）。

核心特性

• 🧐 统一的 LLM 接口：跨不同 LLM 提供商的一致 API，内置错误处理和重试机制
• 🔄 提供商灵活性：轻松切换 OpenAI、Anthropic、Google Gemini 以及通过 Groq 和 Ollama 使用本地模型等 LLM 提供商
• 📊 使用情况监控：内置的用量跟踪和监控功能
• 🛠️ 配置管理：灵活的配置系统，用于设置 LLM 参数，如温度、最大 token 数等
• 🔒 错误处理：强大的错误处理和重试机制，适用于生产环境

核心概念

LLM 接口

Council 的核心是 LLM 接口，它提供了一种与不同语言模型提供商交互的统一方式。其中包括：

• 灵活的配置选项
• 跨提供商的一致消息格式
• 内置的重试机制
• 使用量跟踪和监控

配置

Council 提供了一个强大的配置系统，允许您：

• 设置特定于提供商的参数
• 配置重试行为
• 控制模型参数，如温度、最大 token 数等
• 管理 API 凭证

监控

内置的监控功能可以帮助跟踪：

• Token 使用量和费用
• API 调用次数
• 响应时间

快速入门

安装

可以通过多种方式安装 Council：

1. （推荐）通过 PyPI 使用 pip 安装：pip install council-ai
2. 从 Git 引用安装：pip install git+https://github.com/chain-ml/council.git@<branch_name>
   • 更多文档请参阅：https://pip.pypa.io/en/stable/topics/vcs-support/#git
3. 从本地副本安装：
   • 克隆此仓库
   • 导航到本地项目根目录，并通过 pip install -e git+https://github.com/chain-ml/council.git@<branch_name> 进行安装。

卸载命令：pip uninstall council-ai

当前稳定版本

设置

将所需的 API 密钥设置到 .env 文件中（例如 OpenAI）。可以参考 .env.example 作为示例。

代码风格检查

使用 make lint 来验证您的代码。

Black 格式化工具

使用 black . 自动格式化文件。

文档

关于 Council 的详细文档可以在 council.dev 找到。

支持

如果您需要任何帮助，请提交 GitHub 问题，或通过 Discord 联系团队。

贡献者

Council 是一个正在积极开发的项目。我们欢迎所有贡献、拉取请求、功能请求或问题报告。

Council 快速上手指南

Council 是一个基于 Python 构建的开源 AI 智能体平台，旨在为大语言模型（LLM）应用提供企业级的质量控制、统一接口和可扩展的监控能力。它支持无缝切换 OpenAI、Anthropic、Google Gemini、Groq 及 Ollama 等多种模型提供商。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Linux、macOS 或 Windows
• Python 版本：建议安装 Python 3.8 或更高版本
• 前置依赖：
  • pip (Python 包管理工具)
  • 目标 LLM 提供商的 API Key（如 OpenAI API Key 等）

安装步骤

推荐使用 pip 从 PyPI 进行安装。国内开发者若遇到网络延迟，可配置国内镜像源加速下载。

方式一：标准安装（推荐）

pip install council-ai

方式二：使用国内镜像源加速安装

如果您在中国大陆地区，建议使用阿里云或清华大学镜像源以提升下载速度：

# 使用阿里云镜像
pip install council-ai -i https://mirrors.aliyun.com/pypi/simple/

# 或使用清华大学镜像
pip install council-ai -i https://pypi.tuna.tsinghua.edu.cn/simple

方式三：从源码安装（开发版）

如需体验最新功能或参与贡献，可从 GitHub 安装：

pip install git+https://github.com/chain-ml/council.git@main

基本使用

1. 配置环境变量

在使用前，您需要将 LLM 提供商的 API 密钥配置到环境变量中。在项目根目录下创建 .env 文件（参考项目中的 .env.example）：

# .env 文件示例
OPENAI_API_KEY=your_openai_api_key_here
ANTHROPIC_API_KEY=your_anthropic_api_key_here
# 其他提供商的 Key...

2. 代码示例

以下是一个最简单的使用示例，展示如何初始化 Council 并调用 LLM 接口。该示例体现了 Council 统一的接口特性，无需关心底层提供商的具体实现细节。

from council.llm import LlmMessage, LlmProvider
from council.chains import Chain
from council.agents import Agent

# 1. 定义消息
messages = [LlmMessage.system("You are a helpful assistant."), 
            LlmMessage.user("Hello, who are you?")]

# 2. 初始化 LLM 提供商 (默认读取环境变量中的 OPENAI_API_KEY)
# Council 会自动处理重试机制和错误监控
llm = LlmProvider.from_env() 

# 3. 创建简单的链式调用
chain = Chain(llm)

# 4. 执行并获取结果
response = chain.execute(messages)

print(response.last_message.content)

3. 运行与监控

运行上述脚本后，Council 将自动：

• 根据环境变量选择对应的 LLM 提供商。
• 执行请求并内置重试机制。
• 在后台记录 Token 消耗、API 调用次数及响应时间等监控数据。

更多高级功能（如多智能体协作、复杂控制流配置）请参阅官方文档：council.dev