Laminar

Laminar 是一个专为 AI 代理打造的开源可观测性平台。

• 跟踪。文档
  • 原生支持 OpenTelemetry 的强大跟踪 SDK —— 只需一行代码即可自动跟踪 Vercel AI SDK、浏览器使用、Stagehand、LangChain、OpenAI、Anthropic、Gemini 等。
• 评估。文档
  • 无偏见、可扩展的 SDK 和 CLI，用于在本地或 CI/CD 流水线中运行评估。
  • 用于可视化评估结果并进行比较的 UI。
• AI 监控。文档
  • 使用自然语言描述定义事件，以跟踪问题、逻辑错误以及代理的自定义行为。
• 所有数据的 SQL 访问。文档
  • 使用内置 SQL 编辑器查询跟踪、指标和事件。可通过查询批量创建数据集。也可通过 API 使用。
• 仪表板。文档
  • 强大的跟踪、指标和事件仪表板构建工具，支持自定义 SQL 查询。
• 数据标注与数据集。文档
  • 自定义数据渲染 UI，用于快速数据标注和评估用数据集的创建。
• 极高的性能。
  • 使用 Rust 🦀 编写
  • 自定义实时引擎，可在跟踪发生时即时查看。
  • 对 Span 数据的超快速全文搜索。
  • gRPC 导出器用于跟踪数据。

文档

完整的文档请访问 docs.laminar.sh。

开始使用

最快最简单的方式是使用我们的托管平台 -> laminar.sh

使用 Docker Compose 自行部署

Laminar 非常容易在本地自行部署。要快速开始，请克隆仓库并使用 Docker Compose 启动服务：

git clone https://github.com/lmnr-ai/lmnr
cd lmnr
docker compose up -d

这将启动一个轻量级但功能齐全的堆栈版本。适合快速入门或轻量级使用。您可以在浏览器中通过 http://localhost:5667 访问 UI。

您还需要正确配置 SDK，包括 baseUrl 和正确的端口。请参阅自行部署指南。

对于生产环境，我们建议使用我们的托管平台或执行 docker compose -f docker-compose-full.yml up -d。

启用 Signals 功能

要在自行部署模式下启用 Signals / AI 监控，请在 .env 文件中设置 GOOGLE_GENERATIVE_AI_API_KEY 环境变量。此密钥对应用服务器和前端均是必需的。

# 在仓库根目录的 .env 文件中
GOOGLE_GENERATIVE_AI_API_KEY=your_key_here

贡献

如需在本地运行和构建 Laminar，或想了解更多关于 Docker Compose 文件的信息，请参阅 贡献指南。

TS 快速入门

首先，创建项目并生成项目 API 密钥。然后，

npm add @lmnr-ai/lmnr

这将安装 Laminar TS SDK 以及所有插装包（OpenAI、Anthropic、LangChain 等）。

要开始跟踪 LLM 调用，只需添加：

import { Laminar } from '@lmnr-ai/lmnr';
Laminar.initialize({ projectApiKey: process.env.LMNR_PROJECT_API_KEY });

要跟踪函数的输入/输出，请使用 observe 包装器。

import { OpenAI } from 'openai';
import { observe } from '@lmnr-ai/lmnr';

const client = new OpenAI({ apiKey: process.env.OPENAI_API_KEY });

const poemWriter = observe({name: 'poemWriter'}, async (topic) => {
  const response = await client.chat.completions.create({
    model: "gpt-4o-mini",
    messages: [{ role: "user", content: `write a poem about ${topic}` }],
  });
  return response.choices[0].message.content;
});

await poemWriter();

Python 快速入门

首先，创建项目并生成项目 API 密钥。然后，

pip install --upgrade 'lmnr[all]'

这将安装 Laminar Python SDK 以及所有插装包。所有插装列表请参阅 此处。

要开始跟踪 LLM 调用，只需添加：

from lmnr import Laminar
Laminar.initialize(project_api_key="<LMNR_PROJECT_API_KEY>")

要跟踪函数的输入/输出，请使用 @observe() 装饰器。

import os
from openai import OpenAI

from lmnr import observe, Laminar
Laminar.initialize(project_api_key="<LMNR_PROJECT_API_KEY>")

client = OpenAI(api_key=os.environ["OPENAI_API_KEY"])

@observe()  # 标注所有您想要跟踪的函数
def poem_writer(topic):
    response = client.chat.completions.create(
        model="gpt-4o",
        messages=[
            {"role": "user", "content": f"write a poem about {topic}"},
        ],
    )
    poem = response.choices[0].message.content
    return poem

if __name__ == "__main__":
    print(poem_writer(topic="laminar flow"))

客户端库

要了解如何为您的代码添加插装，请查看我们的客户端库：

Laminar (lmnr) 快速上手指南

Laminar 是一个专为 AI Agent 打造的开源可观测性平台，支持追踪（Tracing）、评估（Evals）、AI 监控（Signals）以及通过 SQL 查询数据。它基于 Rust 构建，具有极高的性能，并原生支持 OpenTelemetry。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Linux, macOS 或 Windows (需安装 Docker Desktop)。
• 运行时依赖：
  • Docker & Docker Compose：用于本地自托管部署。
  • Node.js (v18+)：如果您使用 TypeScript/JavaScript。
  • Python (3.9+)：如果您使用 Python。
• API Key：
  • 若使用托管版，需在 laminar.sh 创建项目并获取 Project API Key。
  • 若自托管并启用 AI 监控功能，需准备 GOOGLE_GENERATIVE_AI_API_KEY。

安装步骤

您可以选择自托管（适合本地开发/轻量使用）或直接使用托管平台。

方案 A：使用 Docker Compose 自托管（推荐本地开发）

这是最快启动完整功能栈的方式。

1. 克隆仓库并进入目录：

   git clone https://github.com/lmnr-ai/lmnr
   cd lmnr
   

2. 启动服务：

   docker compose up -d
   

3. 访问界面： 打开浏览器访问 http://localhost:5667。

   注意：若需启用 Signals (AI 监控) 功能，请在项目根目录的 .env 文件中配置 Google API Key：

   GOOGLE_GENERATIVE_AI_API_KEY=your_key_here
   

   配置后需重启容器。生产环境建议使用 docker-compose-full.yml 或直接使用托管平台。

方案 B：安装 SDK

根据您的开发语言选择对应的安装方式。

TypeScript / Node.js

npm add @lmnr-ai/lmnr

该命令会自动安装 Laminar SDK 及所有相关的插桩包（如 OpenAI, Anthropic, LangChain 等）。

Python

pip install --upgrade 'lmnr[all]'

该命令会安装 Laminar Python SDK 及所有支持的插桩包。

基本使用

1. 初始化 SDK

无论使用哪种语言，首先需要初始化 SDK 并传入您的项目 API Key。

TypeScript:

import { Laminar } from '@lmnr-ai/lmnr';

Laminar.initialize({ projectApiKey: process.env.LMNR_PROJECT_API_KEY });

Python:

from lmnr import Laminar

Laminar.initialize(project_api_key="<LMNR_PROJECT_API_KEY>")

2. 自动追踪 LLM 调用

Laminar 能够自动追踪主流 LLM 库（OpenAI, Anthropic 等）的调用，无需额外代码，只需完成上述初始化即可。

3. 追踪自定义函数

使用提供的包装器（Wrapper）或装饰器（Decorator）来追踪特定函数的输入输出。

TypeScript 示例 (observe 包装器):

import { OpenAI } from 'openai';
import { observe } from '@lmnr-ai/lmnr';

const client = new OpenAI({ apiKey: process.env.OPENAI_API_KEY });

// 使用 observe 包裹异步函数
const poemWriter = observe({name: 'poemWriter'}, async (topic) => {
  const response = await client.chat.completions.create({
    model: "gpt-4o-mini",
    messages: [{ role: "user", content: `write a poem about ${topic}` }],
  });
  return response.choices[0].message.content;
});

await poemWriter("laminar flow");

Python 示例 (@observe 装饰器):

import os
from openai import OpenAI
from lmnr import observe, Laminar

# 确保已初始化
Laminar.initialize(project_api_key="<LMNR_PROJECT_API_KEY>")

client = OpenAI(api_key=os.environ["OPENAI_API_KEY"])

# 使用 @observe() 装饰需要追踪的函数
@observe()
def poem_writer(topic):
    response = client.chat.completions.create(
        model="gpt-4o",
        messages=[
            {"role": "user", "content": f"write a poem about {topic}"},
        ],
    )
    poem = response.choices[0].message.content
    return poem

if __name__ == "__main__":
    print(poem_writer(topic="laminar flow"))

完成上述步骤后，您可以在 Laminar 仪表盘（自托管为 http://localhost:5667）中实时查看链路追踪、延迟指标及模型调用详情。